所謂npu其實就是嵌入式神經網絡處理器,他采用的是“數據驅動并行計算”的架構,特別擅長處理視頻、圖像類的海量多媒體數據。
NPU處理器專門為物聯(lián)網人工智能而設計,用于加速神經網絡的運算,解決傳統(tǒng)芯片在神經網絡運算時效率低下的問題。在GX8010中,CPU和MCU各有一個NPU,MCU中的NPU相對較小,習慣上稱為SNPU。
NPU處理器包括了乘加、激活函數、二維數據運算、解壓縮等模塊。
乘加模塊用于計算矩陣乘加、卷積、點乘等功能,NPU內部有64個MAC,SNPU有32個。
激活函數模塊采用最高12階參數擬合的方式實現神經網絡中的激活函數,NPU內部有6個MAC,SNPU有3個。
二維數據運算模塊用于實現對一個平面的運算,如降采樣、平面數據拷貝等,NPU內部有1個MAC,SNPU有1個。
解壓縮模塊用于對權重數據的解壓。為了解決物聯(lián)網設備中內存帶寬小的特點,在NPU編譯器中會對神經網絡中的權重進行壓縮,在幾乎不影響精度的情況下,可以實現6-10倍的壓縮效果。
以上就是什么是npu?的內容。