英特爾FPGA，助力上天入地

時(shí)間：2022-04-01 00:12:02 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-01 00:12:02 來(lái)源：行業(yè)動(dòng)態(tài)

快手日均新增1500萬(wàn)＋作品的內(nèi)容數(shù)據(jù)，千億級(jí)展示帶來(lái)的行為數(shù)據(jù)，以及由數(shù)據(jù)進(jìn)行特征提取帶來(lái)了存儲(chǔ)方面的挑戰(zhàn)。另一方面，在訓(xùn)練和推理當(dāng)中因?yàn)樘卣鲄?shù)越來(lái)越多，深度學(xué)習(xí)模型越來(lái)越深，導(dǎo)致模型變得越來(lái)越大，由此帶來(lái)這些數(shù)據(jù)在網(wǎng)絡(luò)傳輸當(dāng)中的挑戰(zhàn)。再加上每天千億級(jí)的展示，這當(dāng)中也帶來(lái)了計(jì)算和內(nèi)存挑戰(zhàn)。我們的異構(gòu)平臺(tái)是本著從業(yè)務(wù)中來(lái)到業(yè)務(wù)中去的原則，解決業(yè)務(wù)在數(shù)據(jù)中心部署當(dāng)中帶來(lái)的這三個(gè)方面的挑戰(zhàn)。鐘輝說(shuō)。

鐘輝表示，快手在數(shù)據(jù)中心部署FPGA的挑戰(zhàn)可以歸結(jié)為既要上天又要入地。上天是說(shuō)FPGA是部署在云端，所以快手需要解決的首要問(wèn)題是在數(shù)據(jù)中心找到合適的業(yè)務(wù)場(chǎng)景，提供有價(jià)值的解決方案，它需要有一定的通用性和規(guī)?；?；入地則談的是部署，在成本上一定要有競(jìng)爭(zhēng)力，這樣業(yè)務(wù)才有動(dòng)力去采購(gòu)。另外在部署的可靠性、穩(wěn)定性、能耗比上也要有競(jìng)爭(zhēng)力。規(guī)?；渴?，容器化也是必需的，從而解決資源的彈性部署?；诖?，快手部署了英特爾FPGA。

定制化和可重構(gòu)是FPGA的兩大優(yōu)勢(shì)：定制化可以為業(yè)務(wù)提供量身定制的最合適、費(fèi)效比最高的方案，而可重構(gòu)則可在部署中同時(shí)加卸載多個(gè)不同種類的業(yè)務(wù)，比如網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算等。因?yàn)閿?shù)據(jù)中心業(yè)務(wù)發(fā)展迭代非?？?，而FPGA是可編程的器件，這對(duì)數(shù)據(jù)中心的資產(chǎn)保值是非常重要的。

通過(guò)實(shí)際部署，快手的FPGA方案與CPU方案相比，延遲降低了約1.5倍，最大吞吐大概提升了1.7倍左右，功耗有接近5倍的降低，從功耗效率來(lái)說(shuō)提升了近8倍。我們已經(jīng)在數(shù)據(jù)中心規(guī)?；渴餏PGA用于承載商業(yè)化業(yè)務(wù)場(chǎng)景，這在業(yè)界是比較領(lǐng)先的。鐘輝說(shuō)，英特爾FPGA在數(shù)據(jù)中心上更具前沿，相關(guān)工具鏈比較成熟。快手選擇英特爾還有一些軟指標(biāo)方面的考量，比如說(shuō)技術(shù)交流、支持、需求響應(yīng)等。