靈活拓?fù)鋵⒊蒅PU服務(wù)器主流特征
時間:2022-03-12 11:33:01 | 來源:行業(yè)動態(tài)
時間:2022-03-12 11:33:01 來源:行業(yè)動態(tài)
近日,國際知名數(shù)據(jù)公司發(fā)布《人工智能基礎(chǔ)架構(gòu)市場(2019下半年)跟蹤》報告顯示,2019年人工智能基礎(chǔ)架構(gòu)市場規(guī)模已達(dá)20.9億美元,其中GPU服務(wù)器占據(jù)96.1%。而伴隨新基建的發(fā)展,該數(shù)據(jù)公司預(yù)測到2024年中國GPU服務(wù)器市場規(guī)模將達(dá)64億美元。
人工智產(chǎn)品井噴,落地場景多樣,這對計算力提出更加強勁需求,對GPU服務(wù)器性能與穩(wěn)定性提出挑戰(zhàn)。更重要的,GPU服務(wù)器需具有靈活多變,適應(yīng)不同AI任務(wù)需求的布局能力。寧暢專家、GPU服務(wù)器資深架構(gòu)師介紹。
在性能與靈活性方面,以寧暢X640系列服務(wù)器產(chǎn)品為例,該系列產(chǎn)品完全采用自研設(shè)計,設(shè)計時考慮了GPU的靈活應(yīng)用,針對不同需求靈活調(diào)整拓?fù)?。在進(jìn)行模型訓(xùn)練時,根據(jù)需要可安裝最高8顆全高雙寬高速GPU,并支持GPU之間通過P2P模式互聯(lián);在用來做推理計算時,同一臺機器又可支持到最大16顆低功耗推理GPU,并為每顆GPU均衡配備CPU資源。靈活可變的配置使硬件能夠針對客戶應(yīng)用快速切換,針對不同計算模型最大限度的發(fā)揮硬件資源。
此外,寧暢的所有GPU服務(wù)器均由公司內(nèi)擁有十幾年經(jīng)驗的軟件,硬件工程師團(tuán)隊設(shè)計擁有IP,這保證了寧暢能夠根據(jù)客戶需求快速定制開發(fā)。