改變數(shù)據(jù)中心,改變計算世界
時間:2022-04-15 02:51:01 | 來源:行業(yè)動態(tài)
時間:2022-04-15 02:51:01 來源:行業(yè)動態(tài)
英偉達還在大會上談到將數(shù)據(jù)中心作為新的計算單元。EGX A100卡中封裝有一塊基于A100 Ampere的GPU,外加卡載Mellanox ConnectX-6 Dx NIC。二者相結(jié)合,相當于將聯(lián)網(wǎng)功能與A100 GPU加以融合,進一步消除了不必要的額外步驟與延遲因素。
根據(jù)英偉達方面的介紹,其第三代Tensor Cores能夠加速各類工作負載,并帶來高達6倍的開箱即用性能水平。同時,對稀疏結(jié)構(gòu)的支持又進一步將性能提升2倍,使得A100的推理表現(xiàn)再度升級。而對于不那么關(guān)心芯片本體的從業(yè)者來說,英偉達還在EGX A100卡上提供可隨意伸縮以支持不同計算類型的性能解決方案,并通過Mellanox網(wǎng)絡(luò)增強數(shù)據(jù)的智能移動能力。
需要強調(diào)的是,將數(shù)據(jù)中心視為新的計算單元是個宏大且意義非凡的愿景。這一概念,使得開發(fā)人員能夠設(shè)計出延遲更低、且在本質(zhì)上具備巨大可擴展能力的系統(tǒng)。越來越多的企業(yè)希望立足云端為用戶提供AI與機器學習功能,這意味著數(shù)據(jù)中心功能也必須實現(xiàn)快速擴展。此外,對各類軟件工具的支持效果同樣非常重要,因此英偉達方面公布了Merlin等一系列工具。英偉達利用這些工具打造出新的平臺,意在簡化復雜機器學習管道(例如推薦系統(tǒng))的架構(gòu)模式,同時提供一套整體框架以實現(xiàn)對話式AI。