華為技術有限公司尼亞穆爾·夸德爾獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉華為技術有限公司申請的專利用于使用內置注意力訓練卷積神經網絡的方法和系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114556370B 。
龍圖騰網通過國家知識產權局官網在2025-08-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202080073284.0,技術領域涉及:G06N3/084;該發明授權用于使用內置注意力訓練卷積神經網絡的方法和系統是由尼亞穆爾·夸德爾;馬德·易卜拉欣·哈利勒;呂炬煒;戴鵬;李維設計研發完成,并于2020-11-12向國家知識產權局提交的專利申請。
本用于使用內置注意力訓練卷積神經網絡的方法和系統在說明書摘要公布了:描述了用于更新神經網絡的卷積層的一組卷積核的權重的方法和系統。基于所述權重的特征,使用注意力機制來生成一組具有注意力注入權重的卷積核。例如,將一組基于位置的注意力乘數應用于所述一組卷積核中的權重,將基于大小的注意力函數應用于所述一組卷積核中的所述權重,或者兩者兼有。使用所述具有注意力注入權重的一組卷積核來生成輸出激活圖。計算所述神經網絡的損失,并反向傳播梯度,以更新所述卷積核的所述注意力注入權重。
本發明授權用于使用內置注意力訓練卷積神經網絡的方法和系統在權利要求書中公布了:1.一種用于在神經網絡訓練期間更新所述神經網絡的卷積層的一組卷積核的權重的方法,其特征在于,所述方法包括: 獲取所述卷積層的所述一組卷積核; 通過執行以下各項中的至少一項,生成一組卷積核,所述一組卷積核具有注意力注入權重: 將一組基于位置的注意力乘數應用于所述一組卷積核中的權重;或 將基于大小的注意力函數應用于所述一組卷積核中的所述權重; 使用所述具有注意力注入權重的一組卷積核對輸入激活圖執行卷積,以生成輸出激活圖; 使用為所述神經網絡計算的損失的反向傳播梯度來更新所述一組卷積核中的所述注意力注入權重,其中,所述神經網絡用于執行圖像處理或計算機視覺應用,所述神經網絡的輸入數據為圖像數據或視頻數據。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人華為技術有限公司,其通訊地址為:518129 廣東省深圳市龍崗區坂田華為總部辦公樓;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。