邊緣的人工智能

時間：2022-04-02 03:42:02 | 來源：行業(yè)動態(tài)

時間：2022-04-02 03:42:02 來源：行業(yè)動態(tài)

ABI第二份題為邊緣AI芯片組：技術展望和使用案例的報告稱，2018年邊緣人工智能推理芯片組市場規(guī)模為19億美元，邊緣訓練市場規(guī)模為140萬美元。

今天有哪些應用是在邊緣位置進行訓練的？Su解釋說，這些數(shù)據(jù)中包括網(wǎng)關（歷史數(shù)據(jù)庫或設備Hub）和內(nèi)部部署服務器（在私有云中，但物理位置是靠近AI數(shù)據(jù)生成的地方）。專為內(nèi)部部署服務器的訓練任務設計的芯片組包括Nvidia的DGX，華為的網(wǎng)關和服務器，其中包括Ascend 910芯片組，以及針對來自Cerebras System、Graphcore和Habana Labs等內(nèi)部部署數(shù)據(jù)中心的系統(tǒng)級產(chǎn)品。

邊緣訓練市場仍然很小，因為云仍然是人工智能訓練的首選，Su說。



2017年至2024年，針對推理和培訓的AI芯片組年銷售總收入（來源：ABI Research）

邊緣AI推理是2019年至2024年期間邊緣人工智能市場實現(xiàn)31％復合年增長率的主要推動力。Su提到了三個主要市場（智能手機/可穿戴設備、汽車、智能家居/白色家電）以及三個利基市場。

第一個利基市場是機器人，因為依賴多種類型的神經(jīng)網(wǎng)絡，機器人通常需要異構的計算架構，例如用于導航的SLAM（同時定位和映射），用于人機界面的會話AI，用于對象檢測的機器視覺，所有這些都會在不同程度上使用CPU、GPU和ASIC。目前，Nvidia、英特爾和高通正在這個領域進行激烈的競爭。

第二個利基市場是智能工業(yè)應用，涉及制造業(yè)、智能建筑、石油和天然氣領域。我們看到，F(xiàn)PGA廠商因為遺留設備的原因在這一領域表現(xiàn)突出，但同時也要歸功于FPGA架構的靈活性和適應性。

最后一個利基市場是非常邊緣，即將超低功耗AI芯片組嵌入WAN網(wǎng)中的傳感器和其他小端節(jié)點中。由于重點是超低功耗，因此這個領域主要由FPGA廠商、RISC-V設計和ASIC廠商主導。

那么到目前為止，誰在邊緣人工智能推理領域領跑？

意料外或者意料內(nèi)的的是，智能手機AI ASIC廠商在這個領域占據(jù)領先，因為智能手機的出貨量是很大的，例如蘋果、海思半導體、高通、三星以及聯(lián)發(fā)科等，如果說的是初創(chuàng)公司的話，我認為Hailo、Horizon Robotics和Rockchip似乎相對終端設備制造商來說發(fā)展勢頭相當快。

Su還表示，軟件對于邊緣AI芯片組的商業(yè)實施和部署來說至關重要，Nvidia正在升級編譯工具和構建開發(fā)人員社區(qū)，相比之下，英特爾和Xilinx的策略是初創(chuàng)公司合作，或者收購擁有基于軟件的加速解決方案。

芯片組廠商應該考慮向開發(fā)者社區(qū)提供工具包和庫，通過開發(fā)者訓練計劃、競賽、論壇和大會等方式進行，因為這能吸引開發(fā)者與芯片組廠商展開合作以開發(fā)相關應用，所有這些都不是初創(chuàng)公司可以輕易實現(xiàn)的。

該報告給出的結論是，除了為開發(fā)者社區(qū)提供合適的軟件和支持外，廠商還應該提供良好的開發(fā)路線圖，以及其他技術價值鏈的支持，此外還需要讓他們的芯片有大規(guī)模的使用案例，以及具有競爭力的定價。