時(shí)間:2022-03-19 12:51:01 | 來(lái)源:行業(yè)動(dòng)態(tài)
時(shí)間:2022-03-19 12:51:01 來(lái)源:行業(yè)動(dòng)態(tài)
AI為企業(yè)帶來(lái)出眾的業(yè)務(wù)效果,同時(shí)企業(yè)也要承擔(dān)AI產(chǎn)生的成本壓力,特別是當(dāng)AI規(guī)?;瘧?yīng)用時(shí)。以某著名手機(jī)終端廠商為例,分別采用配備384GB純內(nèi)存服務(wù)器和配備2TB持久內(nèi)存的服務(wù)器為預(yù)估單節(jié)點(diǎn)基準(zhǔn)。每上線一個(gè)模型在在純內(nèi)存的參數(shù)服務(wù)器上占用內(nèi)存空間大概是128GB?;诔志脙?nèi)存的數(shù)據(jù)結(jié)構(gòu)由于其有額外的持久化邏輯,在空間復(fù)雜度上會(huì)略高于純內(nèi)存數(shù)據(jù)結(jié)構(gòu),其空間占用大概是204GB。在此基礎(chǔ)上,估算企業(yè)上線1-100個(gè)模型參數(shù)服務(wù)器所需的純內(nèi)存物理節(jié)點(diǎn)數(shù)和配備持久內(nèi)存的物理節(jié)點(diǎn)數(shù)量。關(guān)鍵詞:企業(yè)
客戶&案例
營(yíng)銷資訊
關(guān)于我們
客戶&案例
營(yíng)銷資訊
關(guān)于我們
微信公眾號(hào)
版權(quán)所有? 億企邦 1997-2022 保留一切法律許可權(quán)利。