中國科學院軟件研究所姬晨晨獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉中國科學院軟件研究所申請的專利針對神經網絡算子融合的端云協同推理方法及裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115062784B 。
龍圖騰網通過國家知識產權局官網在2025-08-19發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210666123.3,技術領域涉及:G06N5/04;該發明授權針對神經網絡算子融合的端云協同推理方法及裝置是由姬晨晨;于佳耕;侯朋朋;邰陽;苗玉霞;佟曉宇;張麗敏;全雨;武延軍設計研發完成,并于2022-06-13向國家知識產權局提交的專利申請。
本針對神經網絡算子融合的端云協同推理方法及裝置在說明書摘要公布了:本發明公開一種針對神經網絡算子融合的端云協同推理方法及裝置,所述方法包括將神經網絡轉換為有向無環圖;將所述有向無環圖切分為若干鏈式結構;對每一鏈式結構中的所述網絡層進行融合操作,并使用得到的融合塊替代被融合的網絡層;依據待推理數據,預測每一融合塊與每一未融合網絡層的推理時間與輸出數據大小,并根據所述輸出數據大小與端云之間的網絡帶寬,計算中間數據傳輸時間;基于所述推理時間與所述中間數據傳輸時間,切分所述神經網絡,并基于切分結果進行端云協同推理。本發明解決了具有可融合算子的網絡模型的最小時延問題。
本發明授權針對神經網絡算子融合的端云協同推理方法及裝置在權利要求書中公布了:1.一種針對神經網絡算子融合的端云協同推理方法,包括以下步驟: 將神經網絡轉換為有向無環圖,其中,所述有向無環圖中的節點表示所述神經網絡的網絡層,所述有向無環圖中的節點連線邊表示所述神經網絡的網絡層之間的數據傳輸; 將所述有向無環圖切分為若干鏈式結構; 對每一鏈式結構中的所述網絡層進行融合操作,并使用得到的融合塊替代被融合的網絡層;其中,所述對每一鏈式結構中的所述網絡層進行融合操作,并使用得到的融合塊替代被融合的網絡層,包括: 獲取融合塊規則,所述融合塊規則包括: 卷積層與批歸一化層進行融合; 卷積層、批歸一化層與激活函數層進行融合; 卷積層、批歸一化層、激活函數層與池化層進行融合; 批歸一化層與激活函數層進行融合; 批歸一化層、激活函數層與池化層進行融合; 激活函數層與池化層進行融合; 基于所述融合塊規則,對所述網絡層進行融合; 使用得到的融合塊替代被融合的網絡層; 依據待推理數據,預測每一融合塊與每一未融合網絡層的推理時間與輸出數據大小,并根據所述輸出數據大小與端云之間的網絡帶寬,計算中間數據傳輸時間; 基于所述推理時間與所述中間數據傳輸時間,切分所述神經網絡,并基于切分結果進行端云協同推理。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人中國科學院軟件研究所,其通訊地址為:100190 北京市海淀區中關村南四街4號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。