對(duì)AI支持成為云平臺(tái)的核心能力

時(shí)間：2022-03-31 12:24:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-03-31 12:24:01 來(lái)源：行業(yè)動(dòng)態(tài)

鑒于容器化應(yīng)用帶來(lái)的可移植性、可擴(kuò)展性等能力，利用Docker和K8s搭建容器云成為眾多企業(yè)的主流應(yīng)用部署平臺(tái)，支撐著企業(yè)越來(lái)越多的應(yīng)用，其中不乏核心的關(guān)鍵業(yè)務(wù)應(yīng)用。另一方面，AI給企業(yè)帶來(lái)的眾多商業(yè)價(jià)值和商業(yè)機(jī)會(huì)使得企業(yè)AI應(yīng)用的數(shù)量迅速增長(zhǎng)，在云平臺(tái)部署AI應(yīng)用成為企業(yè)很自然的選擇。

通過(guò)云平臺(tái)或者容器云平臺(tái)來(lái)統(tǒng)一部署包括AI在內(nèi)的所有應(yīng)用看起來(lái)很有吸引力。比如，AI項(xiàng)目通常變化快，需要快速、靈活且可擴(kuò)展的環(huán)境，而云特別是混合云通過(guò)內(nèi)部部署和云資源的結(jié)合能很好地滿(mǎn)足這些需求。在混合云環(huán)境中，當(dāng)需求超過(guò)內(nèi)部最大能力時(shí)，可以使用外部云資源快速擴(kuò)展，不管是計(jì)算還是存儲(chǔ)能力。這不僅帶來(lái)靈活性，還能帶來(lái)成本的節(jié)約。

不過(guò)，那些沒(méi)有專(zhuān)門(mén)為AI優(yōu)化的云平臺(tái)對(duì)于傳統(tǒng)應(yīng)用程序可能很好，但對(duì)于數(shù)據(jù)密集型應(yīng)用程序（AI應(yīng)用）可能會(huì)存在問(wèn)題，比如過(guò)高延遲、性能不足，在流程上也不方便。因?yàn)檫@些平臺(tái)并不能保證性能或保證處理 AI 數(shù)據(jù)所需的容量，換而言之，并非為 AI 提供端到端的應(yīng)用服務(wù)而進(jìn)行了優(yōu)化。

AI系統(tǒng)是由深度學(xué)習(xí)框架、AI應(yīng)用以及服務(wù)部署組成的一個(gè)閉環(huán)。在一個(gè)傳統(tǒng)的容器云平臺(tái)部署AI應(yīng)用，首先要為AI應(yīng)用提供一個(gè)運(yùn)行環(huán)境，其中一個(gè)重要工作是部署各種AI工具，比如深度學(xué)習(xí)框架。眾所周知，深度學(xué)習(xí)框架大部分是開(kāi)源產(chǎn)品，到底選用哪個(gè)版本是一個(gè)挑戰(zhàn)，更何況部署完后還需要不斷更新。其次，AI應(yīng)用的開(kāi)發(fā)涉及數(shù)據(jù)獲取、特征工程轉(zhuǎn)換、模型分布式訓(xùn)練、模型驗(yàn)證、模型灰度發(fā)布、GPU 資源監(jiān)控管理等，將整套流程的打通，并實(shí)現(xiàn)與其他應(yīng)用的資源隔離，這些都不是原生的容器和 K8s技術(shù)所能支持的，需要進(jìn)行大量技術(shù)創(chuàng)新。

因此，一些容器云平臺(tái)開(kāi)始面向AI應(yīng)用進(jìn)行優(yōu)化，包括實(shí)現(xiàn)各種AI工具、框架的預(yù)集成，同時(shí)，打通數(shù)據(jù)獲取、清洗、分析處理、建模等流程，為AI應(yīng)用的開(kāi)發(fā)和部署提供盡可能地方便。