GPU服務(wù)器定制為用戶省10%TCO
時(shí)間:2022-03-11 06:48:01 | 來源:行業(yè)動(dòng)態(tài)
時(shí)間:2022-03-11 06:48:01 來源:行業(yè)動(dòng)態(tài)
寧暢產(chǎn)品負(fù)責(zé)人表示,X640服務(wù)器中采用的Ampere架構(gòu)A100 GPU作為第三代Tensor Core核心速度更快、靈活性更高、更易于使用,服務(wù)器性能可達(dá)每秒4億億次,同時(shí)通過新一代NVIDIA NVSwitch技術(shù)實(shí)現(xiàn)GPU間P2P通信性能翻倍提升最高達(dá)600GB/S。
設(shè)計(jì)方面,X640服務(wù)器支持高強(qiáng)度GPU計(jì)算,均衡分布CPU與GPU處理能力,P2P模式下8個(gè)專業(yè)卡互連,優(yōu)化深度學(xué)習(xí)訓(xùn)練效率。高密度碼流處理模式下,16個(gè)推理計(jì)算核心同時(shí)接入,實(shí)現(xiàn)百路以上高清處理。
在GPU滿足客戶需求情況下,寧暢X640仍有豐富PCI-E接口用于網(wǎng)絡(luò)和其他IO擴(kuò)展,十萬兆以上TCP/IP網(wǎng)絡(luò)接入,二十萬兆IB網(wǎng)絡(luò)接入以及分布式存儲(chǔ),為高端計(jì)算平臺(tái)提供高速傳輸和數(shù)據(jù)存。
最為關(guān)鍵的,寧暢X640服務(wù)器,可依據(jù)用戶需求提供深入定制化生產(chǎn)服務(wù)。透過寧暢CDSPD產(chǎn)品開發(fā)模型,在成熟通用服務(wù)器平臺(tái)基礎(chǔ)上,提供四維一體客戶定制化服務(wù)體系,降低用戶AI服務(wù)器的總體擁有成本(TCO)至少10%。