起底高通AI 100：性能公告與富士康Gloria

時(shí)間：2022-04-17 23:03:02 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-17 23:03:02 來(lái)源：行業(yè)動(dòng)態(tài)

AI 100借鑒了高通公司原有驍龍移動(dòng)平臺(tái)Hexagon及Tensor Accelerator架構(gòu)中的同類芯片引擎技術(shù)，自身包含多達(dá)16個(gè)AI內(nèi)核（AIC），并可適應(yīng)從15瓦至75瓦的功率區(qū)間。高通公司還指出，AI 100加速器上的AIC小芯片采用專有的調(diào)整互連進(jìn)行連接。在物理設(shè)計(jì)上，該產(chǎn)品提供用于AI邊緣應(yīng)有的M.2口香糖式附加卡，以及面向云數(shù)據(jù)中心服務(wù)器的PCI Express Gen3/4加速卡。AI 100還擁有高達(dá)144 MB的高速片上SRAM，具體容量由內(nèi)核數(shù)量決定；并可接入最高32 GB的卡上或系統(tǒng)內(nèi)LPDDR4 DRAM。

在性能方面，高通對(duì)市面上其他競(jìng)爭(zhēng)性解決方案的圖像識(shí)別（ResNet-50模型性能）等應(yīng)用性能提出大膽挑戰(zhàn)。AI 100在20瓦配置下實(shí)現(xiàn)的推理吞吐量，明顯優(yōu)于70瓦配置下的英偉達(dá)T4 GPU。

富士康的Gloria AI Edge Box是一款完全定制的交鑰匙商業(yè)設(shè)備，由高通Cloud AI 100提供支持。除了BKAV的AI View攝像頭系統(tǒng)之外，這款平臺(tái)還有著其他廣泛且多樣的適用范圍。BKAV公司董事長(zhǎng)兼CEO Nguyen Tu Quang指出，這套同時(shí)支持Sub-6與毫米波5G連接制式的富士康工業(yè)互聯(lián)網(wǎng)打造的Gloria本地AI Edge設(shè)備，使我們能夠以極具競(jìng)爭(zhēng)力的價(jià)格實(shí)現(xiàn)令人難以置信的低功耗、高性能。Gloria將支持我們加快AI技術(shù)在企業(yè)及政府中的應(yīng)用，并徹底改變我們?cè)谥腔鄢鞘?、智能建筑及農(nóng)業(yè)等垂直領(lǐng)域內(nèi)的拓展速度。

當(dāng)然，從富士康Gloria等邊緣設(shè)備再到數(shù)據(jù)中心內(nèi)的云AI處理需求，一切都將由高通的PCI Express加速卡支持，而這必然離不開(kāi)強(qiáng)大且深入的軟件工具與庫(kù)作為基礎(chǔ)。不用說(shuō)，回顧多年以來(lái)在移動(dòng)應(yīng)用中支持AI開(kāi)發(fā)、部署及支持的豐富經(jīng)歷，這自然也是高通的強(qiáng)項(xiàng)所在。在對(duì)TensorFlow、PyTorch及Caffe等原生AI框架進(jìn)行有力支持之外，AI開(kāi)發(fā)者能夠?qū)Ｗ⒂谠谧约哼x定的平臺(tái)上進(jìn)行編碼，再結(jié)合高通Cloud AI 100的特性做出優(yōu)化。

AI已經(jīng)成為當(dāng)下風(fēng)頭一時(shí)無(wú)兩的熱門(mén)領(lǐng)域，而富士康Gloria這樣的低功耗、高性能優(yōu)化解決方案非常適合不斷擴(kuò)展的邊緣設(shè)備生態(tài)系統(tǒng)。把握這一機(jī)會(huì)，將給兩家企業(yè)帶來(lái)可觀的發(fā)展空間。富士康Gloria Ai Edge Box的工程樣機(jī)將于今年晚些時(shí)候推出，預(yù)計(jì)于2022年第二季度投入商業(yè)應(yīng)用。高通公司的AI 100開(kāi)發(fā)套件同樣采用驍龍865平臺(tái)主機(jī)處理器，配備支持5G連接的高通驍龍X55調(diào)制解調(diào)器-射頻系統(tǒng)，目前已經(jīng)開(kāi)始客戶交付以供開(kāi)發(fā)調(diào)試。