NVIDIA A100

時(shí)間：2022-04-29 20:54:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-29 20:54:01 來(lái)源：行業(yè)動(dòng)態(tài)

本計(jì)劃在今年GTC上發(fā)布的NVIDIA Ampere架構(gòu)的GPU由于疫情原因并沒(méi)有出現(xiàn)GTC Digital上，但是在北京時(shí)間5月14日，NVIDIA CEO黃仁勛在其廚房中揭開(kāi)了NVIDIA A100的神秘面紗。

NVIDIA Ampere GPU采用了7納米制程工藝，包含超過(guò)540億個(gè)晶體管，這樣的數(shù)據(jù)足以令人乍舌。而NVIDIA廣泛采用的Tensor Core核心也獲得了更新，具有TF32的第三代Tensor Core核心能在無(wú)需更改任何代碼的情況下，使FP32精度下的AI性能提高多達(dá)20倍。此外，Tensor Core核心現(xiàn)在支持FP64精度，相比于前代，其為HPC應(yīng)用所提供的計(jì)算力比之前提高了多達(dá)2.5倍。

同時(shí)，全新Ampere架構(gòu)搭載了多實(shí)例GPU（MIG）、第三代NVIDIA NVLin、結(jié)構(gòu)化稀疏等技術(shù)。其中MIG技術(shù)可以將單個(gè)A100 GPU分割為多達(dá)七個(gè)獨(dú)立的GPU，為不同規(guī)模的工作提供不同的計(jì)算力，以此實(shí)現(xiàn)最佳利用率和投資回報(bào)率的最大化。而第三代NVIDIA NVLink使GPU之間的高速聯(lián)接增加至原來(lái)的兩倍，實(shí)現(xiàn)服務(wù)器的高效性能擴(kuò)展。第三代NVIDIA NVLink互聯(lián)技術(shù)能夠?qū)⒍鄠€(gè)A100 GPU合并成一個(gè)巨大的GPU來(lái)執(zhí)行更大規(guī)模的訓(xùn)練任務(wù)。

得益于其諸多創(chuàng)新，NVIDIA A100集合了AI訓(xùn)練和推理，其性能相比于前代產(chǎn)品提升了高達(dá)20倍。目前，包括思科、Dell Technologies、HPE、浪潮、聯(lián)想、Supermicro等已經(jīng)發(fā)布多款內(nèi)置NVIDIA A100的系統(tǒng)。



為了補(bǔ)充完善上月發(fā)布的四卡和八卡NVIDIA HGX A100配置，NVIDIA還發(fā)布了PCIe版本的A100。新增的PCIe版本A100使服務(wù)器制造商能夠?yàn)榭蛻籼峁┴S富的產(chǎn)品組合從內(nèi)置單個(gè)A100 GPU的系統(tǒng)到內(nèi)置10個(gè)或10個(gè)以上GPU的服務(wù)器等。

據(jù)悉，目前有6臺(tái)在建系統(tǒng)雖然沒(méi)有出現(xiàn)在此次TOP500榜單中，但它們都采用了NVIDIA于上月發(fā)布的A100 GPU。所以可以預(yù)計(jì)的是在明年的TOP500榜單中，我們將會(huì)看到更多搭載NVIDIA A100 GPU的系統(tǒng)。