阿里巴巴集團控股有限公司宋劉一漢獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉阿里巴巴集團控股有限公司申請的專利更新網絡模型的方法、裝置及設備、非易失性存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114386559B 。
龍圖騰網通過國家知識產權局官網在2025-08-22發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202011120724.1,技術領域涉及:G06N3/045;該發明授權更新網絡模型的方法、裝置及設備、非易失性存儲介質是由宋劉一漢;潘攀;劉宇;張迎亞;徐盈輝設計研發完成,并于2020-10-19向國家知識產權局提交的專利申請。
本更新網絡模型的方法、裝置及設備、非易失性存儲介質在說明書摘要公布了:本申請公開了一種更新網絡模型的方法、裝置及設備、非易失性存儲介質。其中,該方法包括:獲取深度神經網絡模型的全局梯度分布,其中,上述全局梯度分布包括:上述深度神經網絡模型中部分或全部層的梯度分布信息;基于上述全局梯度分布在分布式訓練場景下對上述深度神經網絡模型進行采樣,得到梯度位置信息;利用上述梯度位置信息選取多個目標梯度;根據上述多個目標梯度進行梯度估計,得到梯度估計結果;通過上述梯度估計結果對上述深度神經網絡模型進行更新。本申請解決了相關技術中人工智能計算機器間通信效率較低的技術問題。
本發明授權更新網絡模型的方法、裝置及設備、非易失性存儲介質在權利要求書中公布了:1.一種更新網絡模型的方法,其特征在于,包括: 獲取深度神經網絡模型的全局梯度分布,其中,所述全局梯度分布包括:所述深度神經網絡模型中部分或全部層的梯度分布信息; 基于所述全局梯度分布在分布式訓練場景下對所述深度神經網絡模型進行采樣,得到梯度位置信息; 利用所述梯度位置信息選取多個目標梯度; 根據所述多個目標梯度進行梯度估計,得到梯度估計結果; 通過所述梯度估計結果對所述深度神經網絡模型進行更新; 其中,基于所述全局梯度分布在所述分布式訓練場景下對所述深度神經網絡模型進行采樣,得到所述梯度位置信息包括:基于所述全局梯度分布在所述分布式訓練場景中每個訓練場景的相同采樣位置,對所述深度神經網絡模型進行梯度采樣,得到所述梯度位置信息; 其中,根據所述多個目標梯度進行梯度估計,得到梯度估計結果包括:當通信隊列中緩存的所述多個目標梯度的梯度位置信息達到緩存閾值時,對所述通信隊列中存儲的所述多個目標梯度進行分布式訓練的通信運算,得到通信運算結果;對所述通信運算結果求取平均值,得到均值結果;將所述均值結果與相同采樣位置對應的采樣概率值進行除法運算,得到所述梯度估計結果。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人阿里巴巴集團控股有限公司,其通訊地址為:英屬開曼群島大開曼資本大廈一座四層847號郵箱;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。