來自英偉達(dá)、英特爾和AWS自身的新硬件

時(shí)間：2022-04-03 04:51:01 | 來源：行業(yè)動態(tài)

時(shí)間：2022-04-03 04:51:01 來源：行業(yè)動態(tài)

亞馬遜基于開放性和客戶選擇，構(gòu)建了行業(yè)最全面的基礎(chǔ)架構(gòu)服務(wù)。AWS EC2實(shí)例可提供其客戶需要的各種樣式的處理器和加速器，包括使用英特爾、AMD、Arm CPU、Xilinx FPGA、英偉達(dá)GPU以及AWS自己的人工智能加速器的實(shí)例。在本文中，我們將重點(diǎn)討論最后一種情況。

去年，AWS推出了自主研發(fā)的Inferentia推理處理器，該處理器似乎吸引了亞馬遜內(nèi)部應(yīng)用程序以外的關(guān)注。據(jù)AWS稱，Inferentia提供了出色的性價(jià)比和延遲據(jù)稱吞吐量比GPU高出了35％，而價(jià)格卻比GPU低了40％。值得注意的是，AWS沒有說明他們是用哪些GPU與Inferentia進(jìn)行對比的。

為了響應(yīng)對英偉達(dá)A100 GPU的需求，AWS還推出了帶有8個(gè)A100 GPU的P4d實(shí)例，這些實(shí)例可在4000 GPU GPU超級集群中使用。該產(chǎn)品旨在提供集成化且靈活的基礎(chǔ)架構(gòu)，以解決最大的培訓(xùn)任務(wù)。通過使用英偉達(dá)的HGX設(shè)計(jì)，P4d證明了英偉達(dá)在過去三年中通過不斷地提升價(jià)值持續(xù)地改進(jìn)了系統(tǒng)設(shè)計(jì)業(yè)務(wù)。它還顯示出AWS愿意提供英偉達(dá)GPU的意愿即使該公司也向其客戶提供了替代產(chǎn)品。

盡管AWS的客戶對英偉達(dá)的GPU感到滿意，但亞馬遜一直在努力尋找更多具有成本效益并且性能更高的替代產(chǎn)品。在re：Invent年會上，AWS的首席執(zhí)行官Andy Jassy宣布即將推出兩個(gè)新的培訓(xùn)平臺，這兩個(gè)平臺都將于明年推出。第一個(gè)平臺使用了期待已久的英特爾Habana加速器， Jassy先生表示，這個(gè)平臺的性價(jià)比將提高40%。在與英特爾的溝通中，我聽說這一說法源自于一攬子基準(zhǔn)測試，約占AWS上運(yùn)行的人工智能工作的80％。



Jassy先生還宣布，AWS正在開發(fā)Inferentia的大哥，這款產(chǎn)品名為Trainium，它將擁有云端所有機(jī)器學(xué)習(xí)實(shí)例中最多的萬億次浮點(diǎn)運(yùn)算。預(yù)計(jì)到了該服務(wù)在2021年晚些時(shí)候（也有可能是今年下半年）推出的時(shí)候，才會有更多的細(xì)節(jié)透露出來。和谷歌一樣，AWS打算使用自己的人工智能芯片，用這種方式讓自己針對人工智能的云服務(wù)與眾不同，當(dāng)然，這些芯片也只會被用于他們自己的云服務(wù)中。所以，短期內(nèi)就不要指望能夠購買到這些芯片用于本地運(yùn)算了。