北京深鑒科技有限公司技術
時間:2022-02-16 14:02:01 | 來源:信息時代
時間:2022-02-16 14:02:01 來源:信息時代
DNNDK
DNNDK?(DeepNeuralNetworkDevelopmentKit)是深鑒科技面向AI異構計算平臺DPU(Deep-LearningProcessorUnit,深度學習處理器)自主研發(fā)的原創(chuàng)深度學習SDK,為DPU平臺各種深度學習應用開發(fā)和部署提供的一套高效全棧式解決方案。
深度壓縮工具DECENT
深度壓縮工具DECENT(DEepComprEssioNTool)創(chuàng)新性的結合了剪枝(Pruning)、量化(Quantization)等一系列壓縮技術,在保證基本不損失算法精度的前提下可將網(wǎng)絡模型的計算量和規(guī)模壓縮數(shù)倍至數(shù)十倍。
神經(jīng)網(wǎng)絡編譯器DNNC
DNNC將訓練后經(jīng)過DECENT壓縮的神經(jīng)網(wǎng)絡模型映射為DPU上高效執(zhí)行的優(yōu)化指令流,在極大提高DPU計算性能的同時可有效降低系統(tǒng)訪存帶寬和功耗的需求。
硬件架構
亞里士多德架構
亞里士多德架構是針對卷積神經(jīng)網(wǎng)絡而設計。目前,卷積神經(jīng)網(wǎng)絡一般用來處理圖像相關的智能問題,而此架構靈活與可擴展的特性使它可被應用于各種不同規(guī)格的終端中。
笛卡爾架構
笛卡爾架構專為處理DNN/RNN網(wǎng)絡而設計。其可對經(jīng)過結構壓縮后的稀疏神經(jīng)網(wǎng)絡進行高效的硬件加速。相對于IntelXeonCPU與NvidiaTitanXGPU,應用笛卡爾架構的處理器在計算速度上分別提高了189倍與13倍,能效比提升24000倍與3000。