不必重建 英特爾處理器釋放新能
時間：2022-04-29 12:00:02 | 來源：行業(yè)動態(tài)
時間：2022-04-29 12:00:02 來源：行業(yè)動態(tài)
對于AI系統(tǒng)的構(gòu)建，企業(yè)一般選擇了全新建設(shè)。但是UCloud很敏銳地捕捉到了云計算和AI的關(guān)系，充分利用已有的計算資源，實現(xiàn)了價值最大化。
通過與英特爾的緊密技術(shù)合作，UAI-Inference一方面利用云主機中英特爾至強可擴展處理器產(chǎn)品的空閑處理能力，將英特爾AVX-512能力用于支持和加速AI在線服務(wù)。與上一代英特爾AVX2相比，英特爾AVX-512在每個時鐘周期的每秒浮點運算次數(shù)增加了一倍，因此在諸如建模與模擬、數(shù)據(jù)分析與機器學(xué)習(xí)、數(shù)據(jù)壓縮以及可視化與數(shù)字內(nèi)容創(chuàng)建之類的應(yīng)用中執(zhí)行計算任務(wù)時，能夠提供更高的性能和吞吐量。
據(jù)悉，相比上一代產(chǎn)品，英特爾至強可擴展處理器針對深度學(xué)習(xí)訓(xùn)練和推理可提供高達(dá)2.2倍的性能。結(jié)合可加快交付人工智能服務(wù)的軟件優(yōu)化，相比3年前未經(jīng)優(yōu)化的服務(wù)器系統(tǒng)，全新的處理器可實現(xiàn)113倍深度學(xué)習(xí)性能的提升。
另一方面，UAI-Inference利用英特爾至強可擴展處理器強大的可擴展性進行彈性部署，用低成本獲得高性能，降低用戶的TCO。在英特爾至強可擴展平臺上構(gòu)建的系統(tǒng)旨在提供敏捷的服務(wù)，并且由于軟件和操作系統(tǒng)授權(quán)費用以及購置、維護和基礎(chǔ)設(shè)施成本均處于較低水平，因此可以將TCO降低至65%。
除了硬件層面，UAI-Inference還與英特爾一起，引入了性能更佳的AI框架：面向英特爾架構(gòu)優(yōu)化的Caffe框架。這一版本的Caffe框架與傳統(tǒng)AI框架相比，針對英特爾硬件平臺做了深度優(yōu)化，在保證兼容性的前提下，極大地提高了性能，同時集成最新版本的英特爾數(shù)學(xué)核心函數(shù)庫2017，更高效地利用英特爾AVX-512的處理能力，性能顯著提升。
葉理燈表示，以圖片識別為例，沒有經(jīng)過優(yōu)化的AI框架，圖像識別大約是十幾秒，但是采用經(jīng)過優(yōu)化的英特爾Caffe框架，時間縮短到幾秒鐘。軟硬件的結(jié)合帶來的優(yōu)勢是非常明顯的，企業(yè)可以獲得低成本和高性能的用戶體驗。
在線咨詢