英偉達A100數(shù)據(jù)中心GPU與DGX A100集成系統(tǒng)

時間：2022-03-08 01:21:01 | 來源：行業(yè)動態(tài)

時間：2022-03-08 01:21:01 來源：行業(yè)動態(tài)

雖然之前的發(fā)布內容也很有趣，但黃仁勛到這里才放出真正的一處，即A100數(shù)據(jù)中心GPU。

黃仁勛表示，目前A100 GPU已經全面投入生產，并開始向全球客戶發(fā)貨。根據(jù)AI分析師Karl Freund發(fā)表的評論文章，英偉達已經獲得業(yè)界各大主要參與者的支持，包括谷歌、AWS、微軟、阿里巴巴、戴爾、聯(lián)想以及HPE等。在觀看相關內容后，我將英偉達A100的特征總結如下：

希望將訓練與推理流程統(tǒng)一在同一芯片之上。

與使用FP32的V100相比，新的TF32將性能提升達20倍。

MIG（多實例GPU）幫助程序員以管理單一GPU的方式管理多個GPU。

對于密切關注這方面趨勢的朋友們來說，其中最具份量的無疑是利用同一芯片完成訓練與推理任務。盡管業(yè)界已經在廣泛使用英偉達GPU處理訓練任務，但目前的推理類任務仍然缺少統(tǒng)一的解決思路?，F(xiàn)在英偉達出手了，不知道多少風投在心疼自己匆匆做出的投資決定。

當然，制造芯片是一回事，根據(jù)芯片建立起完整系統(tǒng)又是另一回事。黃仁勛又進一步公布了整合型基礎設施，將CPU、GPU、網(wǎng)絡、內存以及存儲全面囊括在內。英偉達表示，這套名為DGX A100的新平臺是首個可在單一節(jié)點上提供每秒5千萬億次浮點運算的系統(tǒng)。我確認了一下，確實是首個。

單一DGX A100能夠包含8個A100、6個NVSitches、9塊Mellanox網(wǎng)卡、1塊基于AMD Rome的雙核Epyc處理器以及15 TB NVMe SSD。沒錯，這是一頭性能猛獸，足以掀起全球范圍的配置升級。

這才是開啟全新生態(tài)系統(tǒng)的正確方式。

采用Ampere架構的EGX A100邊緣計算，以及專為寶馬工廠開發(fā)的機器人

在A100與DGX A100掀起的高潮之后，黃仁勛還不打算就此罷手。既然聊過了數(shù)據(jù)中心，當然不能不提邊緣計算，對吧？

黃仁勛公布了面向大型邊緣服務器的英偉達EGX A100，以及用于微邊緣服務器的小型EGX Jetson Xavier NX。這兩款產品將根據(jù)開發(fā)人員不同的性能需求、預算額度與尺寸要求提供對應的解決方案。

其中EGX A100包含1個英偉達Ampere GPU以及Mellanox ConnectX-6 DX SMartNIC，能夠支持成百上千個攝像頭；而EGX Jetson Xavier NX則能同時支持兩個攝像頭。

另外值得一提的是，英偉達公司的出色設計得到了寶馬公司的肯定，其Issac機器人平臺被引入寶馬制造工廠以支持各類機器人裝置。黃仁勛解釋稱，目前這些機器人已經開始對各類原材料及裝配半成品進行拆解、挑選、放置、運輸以及分類。

從更宏觀的角度看，英偉達實際上是在根據(jù)不同價位提供不同的性能選項，并利用統(tǒng)一的軟件平臺將這些產品集中起來這無疑提高了整個行業(yè)的方案設計標準。雖然并沒有公布具體機器人部署數(shù)量或者確切營收數(shù)字，但可以肯定的是，英偉達目前的財務狀況相當不錯。寶馬是一家態(tài)度非常嚴苛的制造商，可以想象獲得他們的認可有多么艱難。