針對(duì)終端設(shè)備的參數(shù)優(yōu)化
時(shí)間:2022-03-07 00:42:01 | 來源:行業(yè)動(dòng)態(tài)
時(shí)間:2022-03-07 00:42:01 來源:行業(yè)動(dòng)態(tài)
:所有模型的執(zhí)行效果,都必須在最終推理設(shè)備上進(jìn)行驗(yàn)證后才能確認(rèn)。
但是推理設(shè)備上的配置與性能并不一致,每個(gè)項(xiàng)目對(duì)性能與精確度的要求也不盡相同,因此這個(gè)調(diào)優(yōu)的過程就必須反反復(fù)復(fù)的進(jìn)行,如果某一方面未能達(dá)到標(biāo)準(zhǔn)的話,就得回到模型訓(xùn)練步驟去進(jìn)行參數(shù)調(diào)整。
如果經(jīng)過各種參數(shù)調(diào)試之后,仍然無法在性能與精確度都滿足要求的時(shí)候,可能就需要回到第一步去更換神經(jīng)網(wǎng)絡(luò)種類,這樣會(huì)連帶影響所撰寫的訓(xùn)練與推理的代碼,幾乎等于從零開始另一個(gè)項(xiàng)目的過程。
以上三個(gè)部分只是整個(gè)深度學(xué)習(xí)應(yīng)用中比較明顯的問題,也是最主要耗費(fèi)時(shí)間的階段,通常來說都得花費(fèi)數(shù)周到數(shù)月的時(shí)間去進(jìn)行。
針對(duì)這些繁瑣的問題,英偉達(dá)于2021年推出的TAO(Train Adapt Optimize)模型訓(xùn)練工具,能夠非常有效地解決以上的主要困擾,即便是不熟悉神經(jīng)網(wǎng)絡(luò)原理與算法的技術(shù)人員,也可以地在數(shù)天內(nèi)輕松地掌握模型訓(xùn)練工作。
為了解決上述的主要問題,英偉達(dá)為TAO工具做了以下的處理,非常大幅度地減少開發(fā)過程的工作量:
-
關(guān)鍵詞:參數(shù),設(shè)備,針對(duì)