UCloud用云計(jì)算賦能AI

時(shí)間：2022-04-29 11:48:01 | 來源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-29 11:48:01 來源：行業(yè)動(dòng)態(tài)

2017年，UCloud提出了CBA戰(zhàn)略，其中C就是Cloud Computing（云計(jì)算），B是Big Data（大數(shù)據(jù)），A是AI（人工智能）。UAI-Inference就是UCloud布局AI的重要落地之舉。

葉理燈說，UCloud在AI領(lǐng)域是提供一個(gè)AI的PaaS平臺(tái)，降低AI應(yīng)用的落地門檻，另一方面聯(lián)合AI公司基于該平臺(tái)打造行業(yè)解決方案。為什么人工智能很火？這主要是來自三個(gè)方面的原因。一是技術(shù)上的進(jìn)步，比如深度神經(jīng)網(wǎng)絡(luò)的提出和計(jì)算能力發(fā)展；第二，各種開源深度學(xué)習(xí)框架降低了AI學(xué)習(xí)和應(yīng)用的門檻，例如TensorFlow；第三，媒體的宣傳，例如在2016年，AlphaGO帶來的平民化的AI認(rèn)知。

特別是計(jì)算力方面，云計(jì)算的深入發(fā)展，各種芯片硬件的層出不窮給計(jì)算能力提供了很好的支持。我們知道人工智能有三個(gè)要素?cái)?shù)據(jù)、算法、計(jì)算能力。有一個(gè)理論叫火箭理論，就是說如果把人工智能當(dāng)火箭的話，那么數(shù)據(jù)是火箭的原料，計(jì)算能力就是引擎，算法就是引擎的控制器。葉理燈說。

為什么說云計(jì)算跟人工智能的落地有很大的關(guān)系呢？葉理燈表示，隨著云計(jì)算的發(fā)展，不同行業(yè)企業(yè)的數(shù)據(jù)生產(chǎn)和消費(fèi)都是在云計(jì)算平臺(tái)上進(jìn)行的。云計(jì)算就是為了提供計(jì)算能力而產(chǎn)生的。所以，天然來說，在云計(jì)算上做機(jī)器學(xué)習(xí)的訓(xùn)練和推理是非常自然的一件事情。

于是，我們看到UCloud推出了支持人工智能算法框架的大規(guī)模分布式計(jì)算平臺(tái)UAI-Inference。UAI-Inference面向初創(chuàng)企業(yè)、傳統(tǒng)企業(yè)AI轉(zhuǎn)型而生，旨在提供易部署、易運(yùn)維、更安全以及多AI框架支持的海量AI在線服務(wù)節(jié)點(diǎn)，自動(dòng)實(shí)現(xiàn)負(fù)載均衡、擴(kuò)容縮容。按實(shí)際使用量計(jì)費(fèi)，普遍適用于常見的AI在線服務(wù)場景，如圖像識(shí)別、自然語言處理。

葉理燈介紹說，UAI-Inference提供了類似Serverless的架構(gòu)，為用戶提供了兩步走的部署模式。首先，向用戶提供SDK工具包，內(nèi)含接口代碼框架、代碼和數(shù)據(jù)打包模板以及第三方依賴庫描述模板。用戶只需根據(jù)SDK工具包內(nèi)的代碼框架編寫接口代碼，準(zhǔn)備好相關(guān)代碼和AI模型以及第三方庫列表，就可以通過打包工具一鍵完成任務(wù)的在線部署。

任務(wù)打包完畢后，用戶可以通過UAI-Inference分布式的AI在線服務(wù)PaaS平臺(tái)進(jìn)行后續(xù)管理和維護(hù)。該平臺(tái)可以同時(shí)管理上萬個(gè)計(jì)算節(jié)點(diǎn)，并擁有自動(dòng)請(qǐng)求負(fù)載均衡、自動(dòng)資源管理的功能。用戶只需要將業(yè)務(wù)部署在平臺(tái)上，就無須操心其后續(xù)的運(yùn)維，也就是免運(yùn)維。

葉理燈表示，云計(jì)算解決了系統(tǒng)運(yùn)維問題，它沒有解決應(yīng)用運(yùn)維的問題。Serverless架構(gòu)可以解決應(yīng)用運(yùn)維的問題，讓UAI-Inference變成以應(yīng)用為中心、以算法為中心的服務(wù)。

而且需要特別指出的是UAI-Inference創(chuàng)新地利用英特爾至強(qiáng)可擴(kuò)展處理器的空閑處理能力，讓數(shù)據(jù)中心處理器空閑能力得以充分利用。這既降低了企業(yè)用戶的TCO，也達(dá)到了環(huán)保節(jié)能的效果。云計(jì)算本身是規(guī)模經(jīng)濟(jì)，英特爾的產(chǎn)品可以通過云計(jì)算規(guī)?；男б姘阉浞终宫F(xiàn)出來。這是一種遠(yuǎn)比GPU方案經(jīng)濟(jì)高效得多的解決方案，畢竟，這些處理器節(jié)點(diǎn)已經(jīng)是UCloud的既有投資，無需再為此多支出一分錢。葉理燈說。

為了對(duì)這一創(chuàng)新成果進(jìn)行驗(yàn)證，UAI-Inference已在多個(gè)虛擬機(jī)節(jié)點(diǎn)上部署了AI在線服務(wù)計(jì)算節(jié)點(diǎn)，驗(yàn)證測試的結(jié)果表明：基于英特爾至強(qiáng)處理器的AI在線服務(wù)計(jì)算節(jié)點(diǎn)完全能滿足用戶對(duì)性能的要求，在幫助用戶有效降低TCO的同時(shí)，也順應(yīng)了數(shù)據(jù)中心環(huán)保節(jié)能的發(fā)展方向。