通過設(shè)計(jì)實(shí)現(xiàn)大規(guī)模高效
時間:2022-03-25 05:57:01 | 來源:行業(yè)動態(tài)
時間:2022-03-25 05:57:01 來源:行業(yè)動態(tài)
在本輪或任何一輪MLPerf原始數(shù)據(jù)中,每個制造商系統(tǒng)相關(guān)的主機(jī)處理器數(shù)量都十分驚人,一些參與者甚至指定要求每兩個人工智能處理器配有一個CPU。而Graphcore的主機(jī)處理器與IPU的比率始終是最低的。與其他產(chǎn)品不同,IPU僅使用主機(jī)服務(wù)器進(jìn)行數(shù)據(jù)移動,無需主機(jī)服務(wù)器在運(yùn)行時分派代碼。因此,IPU系統(tǒng)需要的主機(jī)服務(wù)器更少,從而實(shí)現(xiàn)了更靈活、更高效的橫向擴(kuò)展系統(tǒng)。
對于BERT-Large這一類自然語言處理模型,IPU-POD
64只需要一個雙CPU的主機(jī)服務(wù)器。ResNet-50需要更多的主機(jī)處理器來支持圖像預(yù)處理,因此Graphcore為每個IPU-POD
64指定了四個雙核服務(wù)器。1比8的比例仍然低于其他所有MLPerf參與者。事實(shí)上,在本輪MLPerf 1.1訓(xùn)練中,Graphcore為BERT提供了最快的單服務(wù)器訓(xùn)練時間結(jié)果,為10.6分鐘。
Graphcore大中華區(qū)總裁兼全球首席營收官盧濤表示:自2021年初首次提交MLPerf測試以來,Graphcore取得了巨大進(jìn)步,這與Graphcore不懈創(chuàng)新的企業(yè)精神是分不開的。無論是設(shè)計(jì)系統(tǒng)、選擇架構(gòu)之初,還是至少每三個月推出一次重大軟件更新,都是Graphcore創(chuàng)新精神的體現(xiàn)。同時,Graphcore不懈創(chuàng)新的熱情也感染和吸引了眾多軟硬件合作伙伴從Hugging Face和PyTorch Lightning到VMware和Docker Hub,它們都積極支持Graphcore不斷創(chuàng)新,以助力AI開發(fā)者在易于使用的系統(tǒng)上獲得絕佳的人工智能計(jì)算性能。
關(guān)鍵詞:規(guī)模,設(shè)計(jì),實(shí)現(xiàn)