MLPerf HPC得分

時(shí)間：2022-04-11 22:30:01 | 來源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-11 22:30:01 來源：行業(yè)動(dòng)態(tài)

SC21大會(huì)還公布了AI基準(zhǔn)測(cè)試套件MLPerf HPC的結(jié)果。這些測(cè)試專門衡量AI性能，也代表著AI技術(shù)在科學(xué)類工作負(fù)載中的占比正不斷攀升。與上一輪榜單相比，最佳基準(zhǔn)測(cè)試結(jié)果提升了4至7倍，可以想見如今的超算系統(tǒng)在硬件、軟件與系統(tǒng)規(guī)模上都有大幅提升。

除了一位特殊選手，其他所有超算系統(tǒng)均由英偉達(dá)GPU加速器提供支持，具體涵蓋P100、V100以及A100（這位例外就是Fugaku，它采用基于ARM架構(gòu)的CPU，并未使用任何加速器）。

英偉達(dá)在CosmoFLow和DeepCAM基準(zhǔn)測(cè)試中同樣橫掃一切。CosmoFlow主要用于根據(jù)宇宙學(xué)圖像數(shù)據(jù)執(zhí)行物理量估算，冠軍在CosmoFlow任務(wù)處理中拿下8.04分鐘的好成績(jī)，使用1024個(gè)英偉達(dá)A100-SXM4-80GB GPU執(zhí)行訓(xùn)練。（Fugaku憑借512個(gè)CPU用于114.35分鐘才完成同一任務(wù)。）

DeepCAM則用于識(shí)別氣候模擬數(shù)據(jù)中的颶風(fēng)與大氣河。致勝的關(guān)鍵同樣是英偉達(dá)，新系統(tǒng)以兩倍于上屆冠軍的GPU數(shù)量在1.67分鐘內(nèi)完成了基準(zhǔn)測(cè)試。

勞倫斯伯克利國(guó)家實(shí)驗(yàn)室贏下新的OpenCatalyst基準(zhǔn)測(cè)試，他們使用512個(gè)40 GB版本英偉達(dá)A100-SXM4 GPU在111.86分鐘內(nèi)完成了訓(xùn)練。OpenCatalyst主要用于預(yù)測(cè)超級(jí)系統(tǒng)通過圖連接性預(yù)測(cè)分子構(gòu)型的能力。這方面測(cè)試之所以如此重要，是因?yàn)樗从沉瞬牧峡茖W(xué)與化學(xué)類工作負(fù)載的最新技術(shù)水平。這種任務(wù)擁有區(qū)別于其他神經(jīng)網(wǎng)絡(luò)類型的計(jì)算特性，其擁有突出的稀疏性，而且不同數(shù)據(jù)集往往令神經(jīng)網(wǎng)絡(luò)形成不同的結(jié)構(gòu)和連接性，進(jìn)而導(dǎo)致負(fù)載不平衡（負(fù)載難以有效并行）。

本輪競(jìng)賽還引入了新的性能指標(biāo)。弱縮放模式代表系統(tǒng)能夠同時(shí)訓(xùn)練同一模型的多個(gè)實(shí)例，用以探索能否在應(yīng)用場(chǎng)景中實(shí)現(xiàn)資源共享（例如共享存儲(chǔ)系統(tǒng)和互連帶寬）。