南京航空航天大學劉偉強獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉南京航空航天大學申請的專利一種卷積神經網絡的壓縮方法、系統及加速裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114065923B 。
龍圖騰網通過國家知識產權局官網在2025-08-19發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202111439943.0,技術領域涉及:G06N3/0495;該發明授權一種卷積神經網絡的壓縮方法、系統及加速裝置是由劉偉強;吳比;宋媛設計研發完成,并于2021-11-30向國家知識產權局提交的專利申請。
本一種卷積神經網絡的壓縮方法、系統及加速裝置在說明書摘要公布了:本發明提供一種卷積神經網絡的壓縮方法、系統及加速裝置,壓縮方法包括將卷積層中每個輸出通道的卷積核進行分組;采用核間剪枝將每組卷積核組剪枝掉相同數目的卷積核;將每組卷積核組中未剪枝的卷積核的權重按行分組;采用核內剪枝將每組卷積核組剪枝掉權重最小的一行對應的卷積核;在全連層中預先設置剪枝閾值;將全連層中絕對值小于剪枝閾值的權重對應的卷積核進行剪枝;對卷積神經網絡中所有的非零權重進行量化至目標精度;對卷積神經網絡進行重訓練至收斂。本發明通過分塊核間剪枝以及核內剪枝,得到一個規整的壓縮模型,能夠被加速裝置高效計算;全連層中的權重通過閾值剪枝以盡可能多的消除冗余參數,使得網絡能夠被壓縮到較小的規模。
本發明授權一種卷積神經網絡的壓縮方法、系統及加速裝置在權利要求書中公布了:1.一種卷積神經網絡加速裝置,其特征在于,用于加速經過如下壓縮方法壓縮后的卷積神經網絡,所述卷積神經網絡包括卷積層和連層,卷積神經網絡的壓縮方法包括: 將卷積層中每個輸出通道的卷積核進行分組,得到多組卷積核組; 采用核間剪枝將每組卷積核組剪枝掉相同數目的卷積核; 將每組卷積核組中未剪枝的卷積核的權重按行分組; 采用核內剪枝將每組卷積核組剪枝掉權重最小的一行對應的卷積核; 在全連層中預先設置剪枝閾值; 將全連層中絕對值小于剪枝閾值的權重對應的卷積核進行剪枝; 對卷積神經網絡中所有的非零權重進行量化至目標精度; 對卷積神經網絡進行重訓練,直至卷積神經網絡收斂; 所述采用核間剪枝將每組卷積核組剪枝掉相同數目的卷積核,包括: 設置初始剪枝率P0; 對卷積層的卷積核進行剪枝,得到第一卷積神經網絡; 訓練第一卷積神經網絡至第一目標次數,增大剪枝率為P1,得到第二卷積神經網絡; 訓練第二卷積神經網絡至第二目標次數,增大剪枝率為P2,得到第三卷積神經網絡; 將第三卷積神經網絡重復進行第一目標次數和第二目標次數的訓練,直至滿足預先設置的剪枝率P,得到第四卷積神經網絡,其中P>P2>P1>P0; 所述加速裝置包括:多個索引-權重RAM、多個特征圖RAM、多個卷積處理模塊、多個累加器、多個后處理模塊、數據重組模塊以及控制模塊; 每個卷積處理模塊包括多個雙卷積處理單元,用于并行計算多個輸入通道,產生一個通道的輸出; 索引-權重RAM和特征圖RAM提供計算所需的數據;控制模塊根據剪枝時計算的索引為每個雙卷積處理單元選擇特征圖;每個卷積處理模塊的輸出被送入對應連接的累加器進行累加,中間數據存入緩存,等待與下一批數據進行累加,直到所有輸入通道的特征圖被處理完畢,生成一個輸出通道的特征圖數據;輸出的特征圖數據被送入后處理模塊進行池化或者ReLu操作,進行池化或者ReLu操作后的特征圖數據送入數據重組模塊處理后存入特征圖RAM中,作為下一層的激活數據。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人南京航空航天大學,其通訊地址為:211106 江蘇省南京市江寧區將軍路29號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。