佛山科學技術學院阮錦標獲國家專利權
買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！
龍圖騰網獲悉佛山科學技術學院申請的專利一種transformer模型處理方法、可讀存儲介質及設備獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN114464172B 。
龍圖騰網通過國家知識產權局官網在2025-08-12發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202210082776.7，技術領域涉及：G10L15/06；該發明授權一種transformer模型處理方法、可讀存儲介質及設備是由阮錦標;段志奎;陳嘉維;于昕梅;高國智;嚴世泉;王虎偉設計研發完成，并于2022-01-24向國家知識產權局提交的專利申請。
本一種transformer模型處理方法、可讀存儲介質及設備在說明書摘要公布了：本發明提供了一種transformer模型處理方法、可讀存儲介質及設備，transformer模型處理方法包括步驟：在進行訓練時，根據transformer模型的子層權重，計算得到目標層，在下一次訓練時，刪除或者保留目標層。本發明通過正向傳播和反向傳播來自動確認需要刪除或者保留的子層，即通過本次訓練得到的權重去計算下一次訓練時需要刪除或者保留的子層，進而減少了模型的參數量，實現輕量級的transformer模型。
本發明授權一種transformer模型處理方法、可讀存儲介質及設備在權利要求書中公布了：1.一種transformer模型處理方法，其特征在于，包括步驟： 在進行訓練時，根據transformer模型的子層權重，計算得到目標層，在下一次訓練時，刪除或者保留目標層；transformer根據transformer模型的子層權重，計算得到目標層，刪除或者保留目標層的步驟，包括： 在Transformer模型的Encoder結構中兩個子層和Decoder結構的后兩個子層，根據與子層輸出相關的權重，做矩陣運算；后兩個子層為：第二個MHA子層和FFN子層；子層輸出相關的權重為：子層輸出的最近的權重； 選取矩陣運算中的最小值，以最小值所在層為目標層，分別對每個子層求得不同的目標層，在下次訓練時，刪除目標層。
如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人佛山科學技術學院，其通訊地址為：528000 廣東省佛山市南海區獅山鎮仙溪水庫西路佛山科學技術學院；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
免責聲明
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
開放平臺
擔保交易
惠及多方
會員特惠
專屬平臺
適合多方
數據共享
功能齊全
皖公網安備 34010402703815號