專門為AI應(yīng)用設(shè)計(jì)的IPU

時(shí)間：2022-03-23 02:45:01 | 來源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-03-23 02:45:01 來源：行業(yè)動(dòng)態(tài)

如今，圍繞AI市場英特爾和英偉達(dá)激斗正酣，雖然GPU在AI芯片賽跑中占據(jù)了主動(dòng)，但這場賽跑還遠(yuǎn)未結(jié)束。賽場上除了英特爾、英偉達(dá)外還有眾多參賽選手，很多新興的AI芯片公司在成本、效率、性能以及應(yīng)對(duì)深度學(xué)習(xí)和機(jī)器學(xué)習(xí)等負(fù)載的靈活性等方面各有優(yōu)勢。根據(jù)市場研究公司Global Market Insights的一份研究報(bào)告，AI芯片的全球市場規(guī)模預(yù)計(jì)每年增長速度為35％，將從2019年的80億美元增長到2026年的700億美元，這也說明AI芯片市場充滿了各種機(jī)會(huì)。

Graphcore也是參賽的選手之一。Graphcore來自英國，成立于2016年，有著芯片獨(dú)角獸之稱，成立以來備受投資者青睞，到目前為止已經(jīng)成功融資超過7億美元。其推出的IPU（Intelligence Processing Unit，智能處理器）屬于AI芯片，Arm聯(lián)合創(chuàng)始人Hermann Hauser將IPU定義為計(jì)算機(jī)發(fā)展史上繼CPU、GPU之后的第三次革命。

IPU采用的是完全不同于CPU和GPU的芯片架構(gòu)。在Graphcore高級(jí)副總裁兼中國區(qū)總經(jīng)理盧濤看來，CPU和GPU都不是專門為AI而設(shè)計(jì)。雖然GPU現(xiàn)在應(yīng)用非常廣泛，但當(dāng)初是為圖形渲染而不是為AI所設(shè)計(jì)，只是這種架構(gòu)正好契合了部分AI應(yīng)用。而IPU是專門為AI設(shè)計(jì)的，其強(qiáng)大的并行處理能力確保了快速訓(xùn)練模型的實(shí)現(xiàn)，并能進(jìn)行實(shí)時(shí)操控。

CPU主要面向標(biāo)量計(jì)算設(shè)計(jì)，長于控制和應(yīng)用；GPU主要面向向量計(jì)算設(shè)計(jì)，長于圖形計(jì)算；而IPU主要面向計(jì)算圖設(shè)計(jì)，尤其是稀疏矩陣下計(jì)算效率最高。盧濤表示。



Graphcore高級(jí)副總裁兼中國區(qū)總經(jīng)理 盧濤

IPU在架構(gòu)上的一大創(chuàng)新是采用了MIMD（多指令流多數(shù)據(jù)流）眾核架構(gòu)，同時(shí)，IPU架構(gòu)中具有大容量的分布式片上SRAM，片內(nèi)高達(dá)900MB的SRAM相對(duì)于GPU的GDDR、HBM來說，可以做到數(shù)十倍的性能提升。為了解決片內(nèi)眾核之間的通信，IPU還采用了高效的通信技術(shù)BSP（Bulk Synchronous Parallel）。IPU是目前世界上第一款采用BSP通信的處理器。

去年6月，Graphcore發(fā)布了第二代IPUGC200（Colossus MK2 IPU）和相對(duì)應(yīng)的IPU-M2000系統(tǒng)。GC200采用了7納米制程，每個(gè)芯片在一個(gè)823平方毫米的裸片上包含高達(dá)594億個(gè)晶體管，使其成為有史以來最精密的處理器。IPU-M2000系統(tǒng)配備了4個(gè)MK2 IPU。根據(jù)Graphcore的資料，8個(gè)IPU-M2000系統(tǒng)在運(yùn)行FP32計(jì)算任務(wù)的時(shí)候性能要比8個(gè)Nvidia DGX A100系統(tǒng)高出12倍，而AI計(jì)算則要高出3倍，總成本卻僅高出30％多。