全棧AI能力 引領(lǐng)AI訓(xùn)練速度突破
時(shí)間：2022-03-10 11:48:01 | 來源：行業(yè)動態(tài)
時(shí)間：2022-03-10 11:48:01 來源：行業(yè)動態(tài)
憑借卓異的軟硬件系統(tǒng)優(yōu)化能力，浪潮AI服務(wù)器將MLPerf訓(xùn)練基準(zhǔn)的單機(jī)效率進(jìn)一步提升至新的高度。相比半年前的MLPerf AI訓(xùn)練榜單V1.0，浪潮AI服務(wù)器將醫(yī)學(xué)影像識別、語音識別、智能推薦和自然語言處理任務(wù)的單機(jī)AI訓(xùn)練速度提升18%、14%、11%和8%。
MLPerf作為國際最權(quán)威的AI性能基準(zhǔn)測試，不斷刷新業(yè)內(nèi)的AI訓(xùn)練速度。目前，浪潮信息是MLPerf基準(zhǔn)測試中醫(yī)學(xué)影像分割、目標(biāo)物體檢測（Mask R-CNN）、自然語言理解、智能推薦、圖像分類、目標(biāo)物體檢測（SSD）、語音識別7項(xiàng)AI任務(wù)的單機(jī)最快訓(xùn)練速度保持者。浪潮AI服務(wù)器在圖像分類訓(xùn)練中每秒可處理27400張圖片、在目標(biāo)物體檢測訓(xùn)練中每秒可處理12600張圖片、在語音識別訓(xùn)練中每秒可處理8000段語音，引領(lǐng)全球AI訓(xùn)練速度突破，凸顯出頂級AI服務(wù)器在AI模型訓(xùn)練效率上的巨大價(jià)值。
浪潮AI服務(wù)器在MLPerf基準(zhǔn)評測中的出色表現(xiàn)，得益于在AI計(jì)算系統(tǒng)創(chuàng)新上卓越的系統(tǒng)設(shè)計(jì)能力和全棧優(yōu)化能力。在硬件層面，針對AI訓(xùn)練中常見的密集IO傳輸瓶頸，浪潮AI服務(wù)器以領(lǐng)先設(shè)計(jì)大幅降低通信延遲，極大提升了AI訓(xùn)練效率；同時(shí)，針對高負(fù)載多GPU協(xié)同任務(wù)調(diào)度，對NUMA節(jié)點(diǎn)與GPU之間的數(shù)據(jù)傳輸進(jìn)行全面優(yōu)化和深度調(diào)校，確保訓(xùn)練任務(wù)中的數(shù)據(jù)IO無阻塞；在散熱層面，針對目前業(yè)界功率最高的A100-SXM-80GB(500W) GPU，浪潮率先開發(fā)的先進(jìn)冷板液冷系統(tǒng)，確保GPU在全功率甚負(fù)載下依然穩(wěn)定工作，將AI計(jì)算系統(tǒng)的性能發(fā)揮到極致。
在線咨詢