NVIDIA Turing T4云GPU持續(xù)強(qiáng)勢加速

時間：2022-03-06 16:40:02 | 來源：行業(yè)動態(tài)

時間：2022-03-06 16:40:02 來源：行業(yè)動態(tài)

NVIDIA在大會上宣布，NVIDIA Turing T4云GPU繼續(xù)強(qiáng)勢加速，幾家科技巨頭正在推出基于全新NVIDIA T4 GPU的新產(chǎn)品和服務(wù)，它已成為普及最為迅速的一款服務(wù)器GPU。



搜索、社交媒體和在線購物網(wǎng)站等互聯(lián)網(wǎng)公司是T4的早期使用者，也是最大的終端客戶群。中國首批開始使用T4擴(kuò)展并提升工作負(fù)載橫向擴(kuò)展的企業(yè)包括百度、騰訊、京東以及科大訊飛。中國領(lǐng)先的計(jì)算機(jī)制造商也將推出一系列基于T4的服務(wù)器，包括浪潮、聯(lián)想、華為、曙光、浪潮商用機(jī)器和新華三等。

此前NVIDIA曾在上周宣布，T4在僅推出2個月后，即在全球領(lǐng)先的計(jì)算機(jī)制造商的57種獨(dú)立服務(wù)器設(shè)計(jì)中發(fā)揮重要作用。此外，谷歌云宣布谷歌云平臺客戶可以使用T4。

NVIDIA副總裁兼加速計(jì)算總經(jīng)理IanBuck表示：中國采用T4的速度之快并不令人意外，以前我們從未推出過這樣的GPU，為公共云和私有云提供所需的綜合性能和能效，可大規(guī)模、更經(jīng)濟(jì)地運(yùn)行計(jì)算密集型工作負(fù)載。并且，中國的市場規(guī)模無可比擬，我們預(yù)測T4將非常受歡迎。

T4基于全新NVIDIA Turing架構(gòu)，采用多精度Turing Tensor Core和全新RTCore，與加速的容器化軟件堆棧相結(jié)合，提供規(guī)?？涨暗男阅?。

T4旨在滿足橫向擴(kuò)展的公共云和企業(yè)云環(huán)境的獨(dú)特需求，最大限度地提高吞吐量、利用率和用戶并發(fā)性，幫助客戶高效應(yīng)對用戶及數(shù)據(jù)爆炸式增長的問題。

小巧的70瓦特T4 GPU大致相當(dāng)于一條巧克力糖的大小，可靈活適應(yīng)于標(biāo)準(zhǔn)服務(wù)器或任何開放計(jì)算項(xiàng)目的超大規(guī)模服務(wù)器設(shè)計(jì)。服務(wù)器設(shè)計(jì)的范圍可從單個T4 GPU直至單節(jié)點(diǎn)中的20個GPU。

T4的多精度功能可支持4種不同精度等級的各類AI工作負(fù)載，助力實(shí)現(xiàn)突破性的AI性能，F(xiàn)P32精度能夠提供8.1TFLOPS，F(xiàn)P16精度能夠提供65TFLOPS，INT8精度能夠提供130TOPS，INT4精度能夠提供260TOPS。針對AI推理工作負(fù)載，配備2個T4GPU的單個服務(wù)器最多可取代54臺CPU服務(wù)器。針對AI訓(xùn)練，配備2個T4的單個服務(wù)器可取代9臺雙套接字CPU服務(wù)器。