平頭哥(上海)半導體技術有限公司馬洪朋獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉平頭哥(上海)半導體技術有限公司申請的專利處理單元、計算裝置及深度學習模型的計算圖優化方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN113705798B 。
龍圖騰網通過國家知識產權局官網在2025-08-08發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202010435236.3,技術領域涉及:G06N3/063;該發明授權處理單元、計算裝置及深度學習模型的計算圖優化方法是由馬洪朋;何軍;姚忠偉;毛鈞;尹莉設計研發完成,并于2020-05-21向國家知識產權局提交的專利申請。
本處理單元、計算裝置及深度學習模型的計算圖優化方法在說明書摘要公布了:本發明公開了一種處理單元、計算裝置及深度學習模型的計算圖優化方法。該一種深度學習模型的計算圖優化方法包括:確定多條從待優化計算圖的輸入算子延伸到輸出算子且包含至少一個轉置算子的路徑,其中,多條路徑的每一條路徑都與其他路徑具有至少一個不同的轉置算子;確定每條路徑中的每個轉置算子的合并方向;以及根據各條路徑中的各個轉置算子的合并方向確定一條或多條路徑中的可抵消的轉置算子,并清除一條或多條路徑中的可抵消的轉置算子,以得到優化后的計算圖。優化后的計算圖清除了計算圖內非必要的轉置算子,從而減少了資源開銷。
本發明授權處理單元、計算裝置及深度學習模型的計算圖優化方法在權利要求書中公布了:1.一種處理單元,包括: 取指令單元,用于從所述處理單元外部的存儲器取回計算機指令; 指令譯碼單元,用于對取回的計算機指令進行譯碼; 指令執行單元,用于執行譯碼后的所述計算機指令,以實現: 確定多條從待優化計算圖的輸入算子延伸到輸出算子且包含至少一個轉置算子的路徑,其中,多條路徑的每一條路徑都與其他路徑具有至少一個不同的轉置算子,并且,所述多條路徑中至少部分還包括卷積算子、激活函數算子,加法算子或乘法算子的一項或多項; 確定每條路徑中的每個轉置算子的合并方向;以及 根據各條路徑中的各個轉置算子的合并方向確定一條或多條路徑中的可抵消的轉置算子,并清除所述一條或多條路徑中的可抵消的轉置算子,以得到優化后的計算圖; 其中,所述轉置算子用于張量的數據格式的轉換,每個轉置算子的合并方向根據所述轉置算子的輸出張量的數據格式是否與特定加速單元所選用的數據格式相同確定;其中,所述加速單元為包括多個硬件執行單元的硬件; 其中,所述確定每條路徑中的每個轉置算子的合并方向包括: 對于所述路徑集合中的每條路徑中的每個轉置算子,先判斷所述轉置算子的輸出張量的數據格式是否與所述特定加速單元所選用的數據格式相同,如果相同,則所述轉置算子的合并方向為向上,如果不同,則繼續判斷所述轉置算子的輸入張量的數據格式是否與所述特定加速單元所選用的數據格式相同,如果相同,則所述轉置算子的合并方向為向下; 則所述根據各條路徑中的各個轉置算子的合并方向確定一條或多條路徑中的可抵消的轉置算子,并清除所述一條或多條路徑中的可抵消的轉置算子包括: 依次遍歷每一條路徑,對于每一條路徑上合并方向分別為向下和向上的相鄰的第一個轉置算子和第二個轉置算子,判斷所述第一個轉置算子和所述第二個轉置算子是否僅存在于完全相同的路徑中,如果是,則確定所述第一個轉置算子和所述第二個轉置算子為可抵消的轉置算子,并清除所述第一個轉置算子和所述第二個轉置算子; 如果否,如果確定所述第一個轉置算子獨自存在于至少一條路徑中,且如果確定在包含所述第一個轉置算子的所有路徑中與所述第一個轉置算子相鄰的后一個轉置算子的合并方向均為向上,則確定所述第一個轉置算子和與所述第一個轉置算子相鄰的后一個轉置算子為可抵消的轉置算子,并在包含所述第一個轉置算子的所有路徑中清除所述第一個轉置算子以及與所述第一個轉置算子相鄰的后一個轉置算子;如果確定所述第二個轉置算子獨自存在于一條路徑中,并且確定在包含所述第二個轉置算子的所有路徑中與所述第二個轉置算子相鄰的前一個轉置算子的合并方向均為向下,則確定所述第二個轉置算子和與所述第二個轉置算子相鄰的前一個轉置算子為可抵消的轉置算子,并在所有包含第二個轉置算子的路徑中清除所述第二個轉置算子以及與所述第二個轉置算子相鄰的前一個轉置算子。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人平頭哥(上海)半導體技術有限公司,其通訊地址為:200131 上海市浦東新區中國(上海)自由貿易試驗區上科路366號、川和路55弄2號5層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。