隨著AI技術(shù)高速發(fā)展，如何充分利用AI在公有云上搭建更高效的技術(shù)框架

時(shí)間：2022-04-04 17:21:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-04 17:21:01 來(lái)源：行業(yè)動(dòng)態(tài)

大數(shù)據(jù)和人工智能技術(shù)的發(fā)展，越來(lái)越多的企業(yè)針對(duì)圖片識(shí)別、人臉識(shí)別等AI應(yīng)用選擇了公有云上的AI應(yīng)用。針對(duì)客戶的不同需求，目前公有云會(huì)提供一個(gè)通用的深度學(xué)習(xí)平臺(tái)，以Tensorflow、Caffe、MxNet等主流深度學(xué)習(xí)框架為基礎(chǔ)，通過(guò)與Kubernetes和Docker容器技術(shù)相結(jié)合，為用戶提供模型開(kāi)發(fā)、模型訓(xùn)練、模型部署等一站式深度學(xué)習(xí)服務(wù)。

目前公有云上部署的AI技術(shù)和框架，主要的問(wèn)題是以傳統(tǒng)的云主機(jī)方式來(lái)運(yùn)行深度學(xué)習(xí)等框架，即使在公有云上安裝了TensorFlow、Caffe等深度學(xué)習(xí)框架，但是公有云服務(wù)商并沒(méi)有去深度優(yōu)化這個(gè)框架，這就造成了雖然用戶購(gòu)買了性能很好的云主機(jī)，但是運(yùn)行起來(lái)Tensorflow、Caffe、MxNet等主流深度學(xué)習(xí)框架的時(shí)候效率并不算高。

可以看到，針對(duì)AI增強(qiáng)這類新的云服務(wù)模式，還需要基于底層架構(gòu)進(jìn)行優(yōu)化，從而釋放云主機(jī)的潛力。金山云作為英特爾長(zhǎng)期的合作伙伴，擁有完備的云計(jì)算基礎(chǔ)架構(gòu)和運(yùn)營(yíng)體系。目前，金山云正在針對(duì)AI應(yīng)用聯(lián)合英特爾從底層架構(gòu)對(duì)云主機(jī)進(jìn)行優(yōu)化，打造AI as a Service新解決方案，針對(duì)金山云三代云主機(jī)的鏡像，一方面針對(duì)英特爾至強(qiáng)可擴(kuò)展處理器優(yōu)化過(guò)的TensorFlow和Caffe，通過(guò)調(diào)用Intel MKL-DNN來(lái)更好地使用英特爾AVX-512指令集，顯著加速AI運(yùn)算過(guò)程，尤其是加速深度學(xué)習(xí)的推理過(guò)程。同時(shí)使用該鏡像用戶可以免去下載、安裝和配置的繁瑣步驟，直接得到在英特爾至強(qiáng)可擴(kuò)展處理器上的最佳運(yùn)行性能。

將英特爾優(yōu)化過(guò)的開(kāi)源框架放入企業(yè)的至強(qiáng)服務(wù)器上面，可以充分發(fā)揮軟硬件的優(yōu)勢(shì)，而且這樣一種增強(qiáng)型的IaaS方式也給了很多AI初創(chuàng)公司，甚至AI愛(ài)好者一個(gè)非常開(kāi)放的一個(gè)選擇。金山云計(jì)算研發(fā)總監(jiān)楊峰表示，使用英特爾優(yōu)化過(guò)的TensorFlow、Caffe，客戶就不需要在底層框架優(yōu)化上多費(fèi)心思，可以更關(guān)注自己業(yè)務(wù)層。未來(lái)，也可以用這種方式去推新的AI增強(qiáng)云服務(wù)類型。