阿里巴巴集團控股有限公司劉強獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉阿里巴巴集團控股有限公司申請的專利一種神經網絡模型的訓練方法、裝置以及計算設備獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN113570053B 。
龍圖騰網通過國家知識產權局官網在2025-08-08發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202010353931.5,技術領域涉及:G06N3/08;該發明授權一種神經網絡模型的訓練方法、裝置以及計算設備是由劉強;孟浩;韓亮;焦陽設計研發完成,并于2020-04-29向國家知識產權局提交的專利申請。
本一種神經網絡模型的訓練方法、裝置以及計算設備在說明書摘要公布了:本發明公開了一種神經網絡模型的訓練方法、裝置以及計算設備。方法包括前向傳播步驟、反向傳播步驟和參數更新步驟,在參數更新步驟中:基于參數梯度計算當前網絡層的參數更新值,生成與參數更新值對應的第四塊浮點數,其中第四塊浮點數的位寬為第三預定值;基于第一塊浮點數和第四塊浮點數對當前網絡層的參數進行更新,生成更新后的參數對應的第一塊浮點數。
本發明授權一種神經網絡模型的訓練方法、裝置以及計算設備在權利要求書中公布了:1.一種神經網絡模型的訓練方法,在服務器中執行,所述神經網絡模型包括多個網絡層,所述方法包括: 前向傳播步驟: 獲取當前網絡層的參數對應的第一塊浮點數; 將上一層網絡層輸出的激活值量化為第二塊浮點數,其中第一塊浮點數和第二塊浮點數的位寬為第一預定值; 基于第一塊浮點數和第二塊浮點數計算當前網絡層的激活值,并輸出到下一層網絡層; 反向傳播步驟: 將下一層網絡層輸出的激活值梯度量化為第三塊浮點數,其中第三塊浮點數的位寬為第二預定值; 基于第三塊浮點數和第一塊浮點數計算上一層網絡層的激活值梯度,并輸出到上一層網絡層; 基于第三塊浮點數和第二塊浮點數計算當前網絡層的參數梯度; 參數更新步驟: 基于參數梯度計算當前網絡層的參數更新值,生成與參數更新值對應的第四塊浮點數,其中第四塊浮點數的位寬為第三預定值; 基于第一塊浮點數和第四塊浮點數對當前網絡層的參數進行更新,生成更新后的參數對應的第一塊浮點數,所述基于第一塊浮點數和第四塊浮點數對當前網絡層的參數進行更新,生成更新后的參數對應的第一塊浮點數包括:獲取上一次迭代后的延遲更新值,并將所述第四塊浮點數中相對于延遲更新值有效的部分加入到所述延遲更新值中,響應于所述延遲更新值大于預設閾值,基于延遲更新值更新所述第一塊浮點數,得到更新后的參數對應的第一塊浮點數。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人阿里巴巴集團控股有限公司,其通訊地址為:開曼群島大開曼資本大廈一座四層847號郵箱;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。