平頭哥(上海)半導體技術有限公司李書森獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉平頭哥(上海)半導體技術有限公司申請的專利處理單元、相關裝置和方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN113705800B 。
龍圖騰網通過國家知識產權局官網在2025-09-02發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202010437888.0,技術領域涉及:G06N3/063;該發明授權處理單元、相關裝置和方法是由李書森;沈正海;何軍;趙曉輝設計研發完成,并于2020-05-21向國家知識產權局提交的專利申請。
本處理單元、相關裝置和方法在說明書摘要公布了:本公開提出一種處理單元、相關裝置和方法。該處理單元包括:取指令單元;指令譯碼單元;指令執行單元,用于:基于深度學習模型的靜態圖,確定待量化算子;如果所述待量化算子是非復合算子,在所述非復合算子的前面插入量化節點;如果所述待量化算子是復合算子,在所述復合算子內部確定待量化原子操作,并在確定的待量化原子操作的前面插入量化探針;根據插入了量化節點、或所述復合算子中插入了量化探針的靜態圖,進行所述深度學習模型的量化。本公開實施例減少了量化時的深度學習模型的靜態圖復雜度,從而有利于后續優化、編譯,且避免了在靜態圖中直接將復合算子分解成的原子操作不受框架支持的問題。
本發明授權處理單元、相關裝置和方法在權利要求書中公布了:1.一種處理單元,用于確定適于計算裝置中加速單元運行的模型,降低對數據吞吐量和存儲空間的要求,其中,所述處理單元包括: 取指令單元,用于從所述處理單元外部的存儲器取回計算機指令; 指令譯碼單元,用于對取回的計算機指令進行譯碼; 指令執行單元,用于執行譯碼后的所述計算機指令,以實現: 基于深度學習模型的靜態圖,確定待量化算子; 如果所述待量化算子是非復合算子,在所述非復合算子的前面插入量化節點; 如果所述待量化算子是復合算子,在所述復合算子內部確定待量化原子操作,并在確定的待量化原子操作的前面插入量化探針; 根據插入了量化節點、或所述復合算子中插入了量化探針的靜態圖,進行所述深度學習模型的量化,將量化后模型按照加速單元支持的指令集,轉換成加速單元模型; 其中,所述加速單元為加速深度學習模型的運算處理速度而設計的單元; 其中,處理單元通過指令的形式向加速單元發送加速單元模型的權重在存儲器中的地址,以使得加速單元在運行加速單元模型進行推理時,按照所述地址直接從存儲器中取出權重,通過加速單元的片上內核運行;所述處理單元還用于在推理時將輸入數據從高精度數據類型轉換為低精度數據類型,通過指令的形式向加速單元通知低精度數據類型的輸入在存儲器中的地址,便于加速單元利用基于所述輸入數據進行推理。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人平頭哥(上海)半導體技術有限公司,其通訊地址為:200131 上海市浦東新區中國(上海)自由貿易試驗區上科路366號、川和路55弄2號5層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。