推動(dòng)IPU在行業(yè)落地

時(shí)間：2022-03-23 02:54:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-03-23 02:54:01 來(lái)源：行業(yè)動(dòng)態(tài)

作為一種專(zhuān)門(mén)為AI應(yīng)用設(shè)計(jì)的芯片，IPU在很多GPU典型應(yīng)用場(chǎng)景上表現(xiàn)得非常優(yōu)秀。根據(jù)Graphcore提供的資料，IPU在自然語(yǔ)言處理、圖像識(shí)別、時(shí)序分析等很多GPU主要應(yīng)用領(lǐng)域，都有至少兩倍以上的性能優(yōu)勢(shì)，相比GPU構(gòu)成明顯的競(jìng)爭(zhēng)優(yōu)勢(shì)。不過(guò)，盧濤表示，Graphcore并不認(rèn)為IPU要替代GPU，他認(rèn)為未來(lái)CPU、GPU、IPU會(huì)三分天下，各自有自己的優(yōu)勢(shì)領(lǐng)域。

目前，IPU與CPU、CPU相比還非常年輕，要把IPU的技術(shù)優(yōu)勢(shì)變成企業(yè)的競(jìng)爭(zhēng)優(yōu)勢(shì)，還有很多工作要做。目前Graphcore正在積極努力，完善IPU的產(chǎn)業(yè)生態(tài)。

在開(kāi)發(fā)者方面，Graphcore推出了IPU配套的開(kāi)發(fā)平臺(tái)Poplar SDK。Poplar是架構(gòu)在機(jī)器學(xué)習(xí)的框架軟件（比如TensorFlow、ONNX、PyTorch和PaddlePaddle）和硬件之間的一個(gè)基于計(jì)算圖的工具和庫(kù)。目前已經(jīng)提供750個(gè)高性能計(jì)算元素的50多種優(yōu)化功能，可以支持各種標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)框架，包括TensorFlow 1/2、ONNX和PyTorch，很快也會(huì)支持百度的Paddle。

在銷(xiāo)售渠道上，簽約神州數(shù)碼就是非常重要的一步。神州數(shù)碼將作為Graphcore在中國(guó)的產(chǎn)品總代理。目前Graphcore的主打產(chǎn)品就是基于GC200構(gòu)建的可擴(kuò)展至超大規(guī)模的IPU系統(tǒng)，每個(gè)IPU系統(tǒng)以IPU-M2000為單元模塊進(jìn)行堆疊，可擴(kuò)展至超大規(guī)模計(jì)算級(jí)別。每個(gè)IPU-M2000在1U的纖薄尺寸內(nèi)提供了1 petaFLOPS的AI計(jì)算和高達(dá)450GB的Exchange-Memory，可滿(mǎn)足最苛刻的機(jī)器智能工作負(fù)載。目前主要的IPU系統(tǒng)具體包括：

1. IPU-POD4 DA（Direct Attach，直連）：由主機(jī)服務(wù)器支持的1個(gè)IPU-M2000在價(jià)格合理的緊湊型2U系統(tǒng)中提供強(qiáng)大的1 petaFLOPS AI計(jì)算，可用于訓(xùn)練和推理工作負(fù)載。
2. IPU-POD16 DA：由主機(jī)服務(wù)器支持的4個(gè)IPU-M2000在價(jià)格合理的緊湊型5U系統(tǒng)中提供強(qiáng)大的4 petaFLOPS AI計(jì)算，可同時(shí)用于訓(xùn)練和推理。
3. IPU-POD64：IPU-POD64是Graphcore的獨(dú)特解決方案，可進(jìn)行大規(guī)模、分散的橫向擴(kuò)展，從而將高性能的機(jī)器智能計(jì)算擴(kuò)展到超級(jí)計(jì)算規(guī)模。它可無(wú)縫擴(kuò)展多達(dá)64,000個(gè)IPU。

盧濤表示，今年是Graphcore正式進(jìn)入中國(guó)的第三年。中國(guó)是全球領(lǐng)先的AI市場(chǎng)，也是Graphcore的重要市場(chǎng)之一。在中國(guó)市場(chǎng)，Graphcore與領(lǐng)先的本地商業(yè)用戶(hù)展開(kāi)緊密的早期合作，基于IPU的開(kāi)發(fā)者云已于去年7月正式上線(xiàn)，其IPU-POD產(chǎn)品技術(shù)已在IPU開(kāi)發(fā)者云上供用戶(hù)訪(fǎng)問(wèn)。他相信，有神州數(shù)碼的助力，中國(guó)這一火爆的AI市場(chǎng)有望率先成為IPU落地實(shí)現(xiàn)爆炸性增長(zhǎng)的區(qū)域之一。