谷歌TPU與其它內(nèi)部ASIC：

時(shí)間：2022-03-06 09:24:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-03-06 09:24:01 來(lái)源：行業(yè)動(dòng)態(tài)

谷歌公司目前正在研發(fā)兩款面向人工智能的專(zhuān)用集成電路（簡(jiǎn)稱ASIC）：其中一種專(zhuān)門(mén)用于推斷，另一種則用于模型訓(xùn)練。谷歌將TPU以加速器的姿態(tài)推向市場(chǎng)，但實(shí)際上，TPU由四個(gè)相同的ASIC部件構(gòu)成，其中每個(gè)部件可提供約每秒45萬(wàn)億次（TOPS）運(yùn)算能力。相比之下，英偉達(dá)Volta的單芯片處理能力高達(dá)每秒125萬(wàn)億次。在我看來(lái)，這樣的市場(chǎng)定位令人困惑，且效果糟糕。換句話來(lái)說(shuō)，根據(jù)該芯片的多項(xiàng)基準(zhǔn)測(cè)試結(jié)果表明，其僅適用于以下場(chǎng)景：1）您不需要在Google Cloud之外運(yùn)行自己的人工智能模型; 2）您樂(lè)于使用未經(jīng)優(yōu)化的TensorFlow模型; 3）不打算或者不需要直接控制ASIC這一點(diǎn)與大多數(shù)科學(xué)家的英偉達(dá)GPU使用方式恰恰相反。坦率地講，經(jīng)過(guò)三重篩選，其只剩下極為有限的利基市場(chǎng)可供發(fā)展。更重要的是，這與業(yè)界的主流猜想同樣存在沖突人們普遍認(rèn)為谷歌公司會(huì)隨著時(shí)間推移而將其大部分內(nèi)部GPU工作負(fù)載轉(zhuǎn)移至TPU之上。

谷歌公司最近宣布其將推出下一代TPU 3.0，而通過(guò)目前有限的細(xì)節(jié)與令人難以理解的性能結(jié)論，我們很難弄清該公司到底指的是更大的pod還是單一TPU芯片性能。在我看來(lái)，TPU 3.0的主要變化在于推出令人印象深刻的系統(tǒng)重新設(shè)計(jì)方案，且水冷機(jī)制的引入將能夠進(jìn)一步提升計(jì)算密度。但請(qǐng)注意，TPU 2.0仍然只幫助于單一部件，且直到2018年年末才會(huì)迎來(lái)pod集群支持能力。此外，其目前尚處于beta測(cè)試階段，且距離真正發(fā)布還有一整年時(shí)間。這意味著我們不太可能在短時(shí)間內(nèi)看到TPU 3.0被正式投入生產(chǎn)環(huán)境。

斯坦福大學(xué)最近發(fā)布的基準(zhǔn)測(cè)試方案證明，沒(méi)有哪一種解決方案能夠在AI工作負(fù)載領(lǐng)域占據(jù)主導(dǎo)地位決定實(shí)際性能的主要是您的實(shí)際負(fù)載內(nèi)容。對(duì)于云計(jì)算而言，GPU可能是更好的選擇，因?yàn)樵瓶蛻舻氖褂媚Ｊ揭恢碧幱诓粩嘧兓校倚枰鞣N各樣的模型并配合不同的軟件框架。出于這個(gè)原因，我預(yù)計(jì)谷歌公司將在可預(yù)見(jiàn)的未來(lái)繼續(xù)提供英偉達(dá)GPU類(lèi)實(shí)例，否則其將面臨被Amazon AWS以及微軟Azure全面壓制的風(fēng)險(xiǎn)。

至于其它廠商，例如Facebook與Amazon，據(jù)稱其也在走上同樣的道路。但我繼續(xù)對(duì)此抱持懷疑態(tài)度我不是說(shuō)這一切不會(huì)發(fā)生，只是可能不會(huì)很快發(fā)生。