偶然當(dāng)程序員卻拿下圖靈獎(jiǎng)，超算榜單之父講述人生開掛經(jīng)歷( 三 ) _top

“如果你不能測(cè)量它，你就不知道它是什么”，這就是為什么杰克的工作很重要。

現(xiàn)在，TOP500已經(jīng)成為衡量超算能力的權(quán)威標(biāo)準(zhǔn) 。
而排名第一的計(jì)算速度，也以摩爾定律描述的節(jié)奏穩(wěn)步增長(zhǎng)，大約每14個(gè)月就會(huì)翻倍。
天河一號(hào)，是中國(guó)第一臺(tái)登上榜首（2010年11月）的超級(jí)計(jì)算機(jī) ，它在榜首呆了六個(gè)月時(shí)間。
上月中旬，美國(guó)達(dá)拉斯舉行的 SC22 會(huì)議上，第60期TOP500排行榜結(jié)果公布，排名第一的依舊是上次奪魁的Frontier 。

文章插圖

中國(guó)的兩臺(tái)超算，神威太湖之光和天河2號(hào)，分別拿下了排行榜第7和第10位。
【偶然當(dāng)程序員卻拿下圖靈獎(jiǎng)，超算榜單之父講述人生開掛經(jīng)歷】統(tǒng)計(jì)所有上榜TOP500的超算，中國(guó)共占據(jù)162臺(tái)，雖較去年的173臺(tái)有所下降，但仍以領(lǐng)先美國(guó)36臺(tái)的優(yōu)勢(shì)，穩(wěn)居世界第一的寶座。
在算力方面，美國(guó)在已部署的算力中以43.2%排名第一，中國(guó)以10.6%位列第四。
Jack Dongarra拿出了一組十分直觀的數(shù)據(jù) 。
現(xiàn)在的計(jì)算機(jī)，最快每秒是1.1 exaflops，TOP500的最后一名則是1.73 petaflops 。
而Jack Dongarra的筆電是擁有M2處理器的MacBook，它的運(yùn)行速度是426 gigaflops 。
近30年前，第一代TOP500的榜首，屬于洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室（LANL）用來設(shè)計(jì)核武器的計(jì)算機(jī)CM.5 ，它擁有一千個(gè)處理器，運(yùn)行速度大約是60 gigaflops 。
不用說當(dāng)年的第一和今日的第一如何如何，今天家用筆電的運(yùn)行速度，已經(jīng)遠(yuǎn)遠(yuǎn)超過了30年前的世界最快。
好了，最后還是說回老爺子。

文章插圖

年逾七十的他，至今依然活躍在高性能計(jì)算領(lǐng)域的一線，今年更是奪得“計(jì)算機(jī)界的諾貝爾獎(jiǎng)”圖靈獎(jiǎng) ，其中，LINPACK，正是他拿圖靈獎(jiǎng)的獲獎(jiǎng)工作之一。
ACM總裁Gabriele Kotsis表示，Jack Dongarra是高性能計(jì)算社區(qū)中，最重要且積極參與的領(lǐng)導(dǎo)者之一。
超算的新benchmark
也是這位積極的領(lǐng)導(dǎo)者提出，超算需要新的基準(zhǔn)測(cè)試了！
背后原因不難理解——
LINPACK基準(zhǔn)測(cè)試強(qiáng)調(diào)浮點(diǎn)運(yùn)算，它的核心是矩陣乘法。
多年以前，團(tuán)隊(duì)設(shè)計(jì)LINPACK時(shí) ，浮點(diǎn)運(yùn)算還是一個(gè)很重要的衡量標(biāo)準(zhǔn) 。
今時(shí)今日，浮點(diǎn)計(jì)算已經(jīng)不那么重要了。
放眼望去，所有的超算都為浮點(diǎn)計(jì)算做了“過量”的準(zhǔn)備——Jack Dongarra本人是如此評(píng)判的。
是以，他認(rèn)為當(dāng)務(wù)之急是需要有新的基準(zhǔn)來關(guān)心移動(dòng)數(shù)據(jù)，也就是HPCG 。

文章插圖

簡(jiǎn)單介紹，HPCG一個(gè)共軛梯度算法，它著眼于解決稀疏矩陣問題，而不是密集矩陣。
這恰恰滿足了今時(shí)今日在實(shí)際應(yīng)用中存在的問題。
相比于舊的基準(zhǔn)HPL，HPCG能更好地反映應(yīng)用程序的效果，但它給出的執(zhí)行速度的數(shù)字會(huì)低很多。
究其背后的原因，是隨著GPU的增強(qiáng)，計(jì)算機(jī)已經(jīng)可以非常迅速地進(jìn)行浮點(diǎn)運(yùn)算，所以HPL得出的數(shù)據(jù)，其實(shí)是超算潛力被夸大后的結(jié)果。
相對(duì)應(yīng)地，HPCG強(qiáng)調(diào)不是浮點(diǎn)數(shù)而是移動(dòng)數(shù)據(jù)，這正是帶寬和延遲會(huì)限制超算性能的地方。
就拿日本超算富岳（Fugaku）來說吧。
LINPACK基準(zhǔn)測(cè)試中，富岳排名第一，達(dá)到了理論峰值的3%；而運(yùn)行新基準(zhǔn) ，富岳只得到了理論峰值的0.8% 。
這意味著計(jì)算機(jī)并沒有發(fā)揮出它們的潛在性能，需要更仔細(xì)地進(jìn)行研究。