GPU的使用范圍不再僅限于AI訓(xùn)練
時間:2022-04-15 02:45:01 | 來源:行業(yè)動態(tài)
時間:2022-04-15 02:45:01 來源:行業(yè)動態(tài)
我們主要聊聊人工智能,因為這項技術(shù)目前代表著數(shù)據(jù)中心內(nèi)計算強度最高的工作負(fù)載類型。大多數(shù)企業(yè)將英偉達(dá)GPU視為利用大型數(shù)據(jù)集訓(xùn)練AI模型時的首選計算資源。事實上,英偉達(dá)也確實在這部分市場上取得了巨大成功。包括沃爾瑪在內(nèi)的諸多企業(yè)都用實際行動為英偉達(dá)GPU投下了神圣一票。
但是,訓(xùn)練絕不是AI計算的全部。廣義上講,機器學(xué)習(xí)分為多個階段,具體包括數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練與推理、以及將模型實際部署至生產(chǎn)環(huán)境等。推理階段的核心,是使用經(jīng)過訓(xùn)練的模型推斷結(jié)果或者結(jié)論。如果說訓(xùn)練是AI計算流程中的高性能環(huán)節(jié),那么推理階段則是企業(yè)實際使用訓(xùn)練模型的環(huán)節(jié)。目前,大部分推理工作都在英特爾CPU上進(jìn)行。
GPU成本高昂,而且業(yè)界普遍認(rèn)為其無法帶來適合推理場景的低廉價格。但在最近的GTC大會上,英偉達(dá)展示了其最新GPU成果如何加快整個機器學(xué)習(xí)流程,希望借此扭轉(zhuǎn)人們的傳統(tǒng)觀念。如前所述,以往的GPU在處理機器學(xué)習(xí)中的計算密集型訓(xùn)練任務(wù)時表現(xiàn)出色,但在推理階段卻顯得有些大材小用。同時,企業(yè)客戶還迫切希望在高端數(shù)據(jù)處理領(lǐng)域獲得性能更強的芯片解決方案。