之江實驗室李曉晨獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉之江實驗室申請的專利一種模型的剪枝方法、裝置及介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120181171B 。
龍圖騰網通過國家知識產權局官網在2025-08-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510671470.9,技術領域涉及:G06N3/082;該發明授權一種模型的剪枝方法、裝置及介質是由李曉晨;劉扶芮;高翔設計研發完成,并于2025-05-23向國家知識產權局提交的專利申請。
本一種模型的剪枝方法、裝置及介質在說明書摘要公布了:本申請公開了一種模型的剪枝方法、裝置及介質,該方法包括:獲取包括多個不同任務的數據的文本數據,并通過文本數據,對預先構建好的目標大模型進行迭代訓練,得到訓練結果。根據訓練結果,確定目標大模型中各模塊在多個不同任務中的重要性得分;根據重要性得分,確定各模塊的剪枝比例;并基于剪枝比例,對各模塊進行迭代剪枝,直至達到預設迭代條件為止;當重要性得分越小時,剪枝比例越大,表征對應的模塊在多個不同任務中的重要性越低。由此,根據模型中各模塊在不同任務下的重要性得分,動態分配各模塊的剪枝比例,保證重要性得分小,重要性低的模塊分配較大剪枝比例進行剪枝。保證模型計算精度的同時,降低模型計算和存儲資源。
本發明授權一種模型的剪枝方法、裝置及介質在權利要求書中公布了:1.一種模型的剪枝方法,其特征在于,所述方法包括: 獲取文本數據;其中,所述文本數據包括多個不同任務的數據; 通過所述文本數據,對預先構建好的目標大模型進行迭代訓練,得到訓練結果;所述文本數據包括自監督學習任務的第一文本數據和多個下游任務的第二文本數據;所述訓練結果包括所述第一文本數據對應的自監督訓練結果,以及所述第二文本數據對應的下游任務訓練結果; 根據所述訓練結果,確定所述目標大模型中各模塊在所述多個不同任務中的重要性得分; 根據所述重要性得分,確定所述各模塊的剪枝比例;并基于所述剪枝比例,對所述各模塊進行迭代剪枝,直至達到預設迭代條件為止;當所述重要性得分越小時,所述剪枝比例越大,表征對應的模塊在所述多個不同任務中的重要性越低; 所述根據所述訓練結果,確定所述目標大模型中各模塊在所述多個不同任務中的重要性得分,包括: 根據所述自監督訓練結果,分別確定所述各模塊在所述自監督學習任務中的自學習任務得分; 根據所述下游任務訓練結果,分別確定所述各模塊在所述多個下游任務中的多任務綜合得分; 根據所述自學習任務得分和所述多任務綜合得分,確定所述重要性得分;當所述自學習任務得分越大時,所述重要性得分越大;當所述多任務綜合得分越大時,所述重要性得分越大。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人之江實驗室,其通訊地址為:311121 浙江省杭州市余杭區中泰街道科創大道之江實驗室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。