軟件定義計(jì)算 三大AI核心引擎全面釋放AI算力

時(shí)間：2022-03-18 14:21:01 | 來源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-03-18 14:21:01 來源：行業(yè)動(dòng)態(tài)

面對(duì)企業(yè)AI應(yīng)用需求，傳統(tǒng)算力存在的先天缺陷暴露無遺，解決算力問題成為企業(yè)AI轉(zhuǎn)型的關(guān)鍵。軟件定義算力已經(jīng)成為行業(yè)發(fā)展的共識(shí)和趨勢(shì)。第四范式SageOne借助自研AI訓(xùn)練引擎、AI推理引擎和AI特征存儲(chǔ)引擎三大引擎的領(lǐng)先技術(shù)，針對(duì)硬件中的芯片、存儲(chǔ)、網(wǎng)絡(luò)等組件進(jìn)行了重新定義，根據(jù)企業(yè)AI應(yīng)用的實(shí)際情況進(jìn)行了專用計(jì)算架構(gòu)、資源管理和調(diào)度等進(jìn)行深度優(yōu)化和加速，為企業(yè) 1＋NAI應(yīng)用提供充沛算力。

1、AI訓(xùn)練引擎全面加速高維機(jī)器學(xué)習(xí)過程

以自研高維機(jī)器學(xué)習(xí)分布式框架GDBT和高維算法為基礎(chǔ)，第四范自主研發(fā)的硬件加速卡4Paradigm ATX800，采用20nm制程，算力達(dá)到1.5TFLOPS，內(nèi)置FlashGBM加速系統(tǒng)，充分用內(nèi)存和高速緩存帶寬，支持自動(dòng)優(yōu)化訓(xùn)練超參數(shù)、高位特征計(jì)算過程I/O加速和高維GBDT訓(xùn)練加速等功能，在企業(yè)應(yīng)用場(chǎng)景中表現(xiàn)出多達(dá)10倍的訓(xùn)練性能。

此外，第四范式和英特爾聯(lián)合實(shí)驗(yàn)室一直探索最佳優(yōu)化技術(shù)，并針對(duì)最新Cascade Lake-AP處理器的全新AVX512指令集、多核心及主頻利用率和CLX AP微架構(gòu)IO總線的利用率進(jìn)行全面優(yōu)化。

SageOne內(nèi)置第四范式自主研發(fā)的高維、分布式網(wǎng)絡(luò)通訊協(xié)議Swift，集成P-PRC自研網(wǎng)絡(luò)通信框架、零拷貝數(shù)據(jù)交換協(xié)議等AI領(lǐng)先通訊技術(shù)，結(jié)合基于CLX-AP架構(gòu)的參數(shù)服務(wù)器集群，展現(xiàn)出業(yè)界頂級(jí)機(jī)器學(xué)習(xí)性能表現(xiàn)。SageOne在高維特征計(jì)算過程I/O最大10X加速，高維稀疏場(chǎng)景模型訓(xùn)練比GPU提速5X以上，自研pRPC通信框架比百度bRPC和谷歌gRPC提速3-10X。

2、AI推理引擎實(shí)現(xiàn)極速實(shí)時(shí)AI推理能力

SageOne內(nèi)置行業(yè)領(lǐng)先的自研實(shí)時(shí)特征計(jì)算引擎和模型預(yù)估引擎，為企業(yè)AI應(yīng)用提供特征處理過程免開發(fā)上線、線下線上一致性保證、一鍵生成預(yù)估服務(wù)、異構(gòu)模型統(tǒng)一服務(wù)等AI核心應(yīng)用服務(wù)，結(jié)合非易失性存儲(chǔ)的無限緩存和超低延遲內(nèi)存存儲(chǔ)等硬件技術(shù)，確保企業(yè)AI應(yīng)用時(shí)具備?量量時(shí)序特征計(jì)算和萬億維模型實(shí)時(shí)推理能力的同時(shí)，提供百萬級(jí)并發(fā)實(shí)時(shí)請(qǐng)求支持和99.9%請(qǐng)求毫秒級(jí)響應(yīng)的高并發(fā)業(yè)務(wù)極速響應(yīng)服務(wù)。

3、AI特征存儲(chǔ)引擎打造超低延時(shí)在線AI數(shù)據(jù)治理

面向AI的數(shù)據(jù)治理是企業(yè)AI規(guī)模化落地的基礎(chǔ)，針對(duì)企業(yè)中多源異構(gòu)數(shù)據(jù)對(duì)接、離線在線數(shù)據(jù)一致性管理、回流數(shù)據(jù)自動(dòng)標(biāo)準(zhǔn)及權(quán)限、審計(jì)等眾多治理需求，SageOne借由自研內(nèi)存時(shí)序數(shù)據(jù)庫(kù)引擎的優(yōu)勢(shì)，具備毫秒級(jí)海量時(shí)序特征供給性能，并通過融合InfiniCache無限緩存等技術(shù)，實(shí)現(xiàn)自動(dòng)切換存儲(chǔ)介質(zhì)優(yōu)化TCO和RAFT一致性災(zāi)備與恢復(fù)等高性能企業(yè)級(jí)標(biāo)準(zhǔn)。SageOne利用超低延遲數(shù)據(jù)訪問接口、超高數(shù)據(jù)吞吐傳輸通道和水平擴(kuò)展動(dòng)態(tài)擴(kuò)容服務(wù)等突出能力，為企業(yè)AI應(yīng)用構(gòu)建了超低延遲在線數(shù)據(jù)治理能力。