新物種，SageOne軟硬一體系統(tǒng)誕生

時間：2022-03-19 11:24:01 | 來源：行業(yè)動態(tài)

時間：2022-03-19 11:24:01 來源：行業(yè)動態(tài)

幫助企業(yè)實現(xiàn)核心業(yè)務(wù)AI應(yīng)用的極致效果和大規(guī)模AI應(yīng)用場景的快速落地，傳統(tǒng)算力暴露了先天缺陷，解決算力問題成為企業(yè)AI轉(zhuǎn)型的關(guān)鍵。第四范式聯(lián)合創(chuàng)始人、首席架構(gòu)師胡時偉表示：傳統(tǒng)算力和AI應(yīng)用負載之間存在天然的鴻溝，傳統(tǒng)算力只是解決在計算、訪存、I/O帶寬的局部密集問題，而AI應(yīng)用負載則需要解決全部密集的問題。發(fā)展企業(yè)級AI專用算力已經(jīng)成為行業(yè)的普遍共識和大勢所趨。

第四范式本次發(fā)布的企業(yè)級AI軟硬一體集成系統(tǒng)SageOne，是一個全新的企業(yè)級產(chǎn)品物種，摒棄了傳統(tǒng)算力堆砌硬件的方式，而采用由軟件定義的專用AI系統(tǒng)架構(gòu)，更好的理解AI 算法的運算架構(gòu)與邏輯，更深層次軟硬件一體化的優(yōu)化和加速，全面滿足企業(yè)AI應(yīng)用的算力需求。

SageOne內(nèi)置第四范式領(lǐng)先的自研AI訓(xùn)練引擎、AI推理引擎和AI特征存儲引擎三大核心引擎， 通過業(yè)界領(lǐng)先的軟件定義計算軟硬一體技術(shù)構(gòu)建了閉環(huán)企業(yè)AI系統(tǒng)，貫通硬件基礎(chǔ)設(shè)施、AI核心引擎、AI平臺和AI業(yè)務(wù)應(yīng)用的全價值鏈條，全面支撐企業(yè)AI"1＋N "業(yè)務(wù)場景應(yīng)用需求。

以第四范式高維算法為基礎(chǔ)，SageOne搭載第四范自主研發(fā)的硬件加速卡4Paradigm ATX800，內(nèi)置模型訓(xùn)練和特征工程等多種加速能力，支持自動優(yōu)化訓(xùn)練超參數(shù)、高位特征計算過程I/O加速和高維GBDT訓(xùn)練加速等應(yīng)用，在企業(yè)應(yīng)用場景中表現(xiàn)出高達10倍的訓(xùn)練性能。

SageOne內(nèi)置第四范式自主研發(fā)的高維、分布式網(wǎng)絡(luò)通訊協(xié)議Swift，集成pPRC自研網(wǎng)絡(luò)通信框架、零拷貝數(shù)據(jù)交換協(xié)議等AI領(lǐng)先通訊技術(shù)，結(jié)合基于CLX-AP架構(gòu)的參數(shù)服務(wù)器集群，展現(xiàn)出業(yè)界頂級機器學(xué)習(xí)性能表現(xiàn)。SageOne在高維特征計算過程I/O最大10X加速，高維稀疏場景模型訓(xùn)練比GPU提速5X以上，自研pRPC通信框架比百度bRPC和谷歌gRPC提速3-10X。

內(nèi)置行業(yè)領(lǐng)先的自研實時特征計算引擎和模型預(yù)估引擎，SageOne為企業(yè)AI應(yīng)用提供特征處理過程免開發(fā)上線、線下線上一致性保證、一鍵生成預(yù)估服務(wù)、異構(gòu)模型統(tǒng)一服務(wù)等AI核心應(yīng)用服務(wù)，結(jié)合非易失性存儲的無限緩存和超低延遲內(nèi)存存儲等硬件技術(shù)，確保企業(yè)AI應(yīng)用時具備量量時序特征計算和萬億維模型實時推理能力的同時，提供百萬級并發(fā)實時請求支持和99.9%請求毫秒級響應(yīng)的高并發(fā)業(yè)務(wù)極速響應(yīng)服務(wù)。

此外，第四范式和英特爾聯(lián)合實驗室一直探索最佳優(yōu)化技術(shù)，并針對最新Cascade Lake-AP處理器的全新AVX512指令集、多核心及主頻利用率和CLX AP微架構(gòu)IO總線的利用率進行全面優(yōu)化。

胡時偉認為，解決企業(yè)AI應(yīng)用算力負載問題，單靠增加硬件是無法完成的。只有通過AI算法對整個AI算力平臺系統(tǒng)的重新定義，才能幫助企業(yè)支撐AI1＋N應(yīng)用場景的需求。