浙江大學段桂芳獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉浙江大學申請的專利一種多教師模型一致性知識蒸餾方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120107567B 。
龍圖騰網通過國家知識產權局官網在2025-08-15發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510585548.5,技術領域涉及:G06V10/25;該發明授權一種多教師模型一致性知識蒸餾方法是由段桂芳;毛崢昱;劉振宇;譚建榮設計研發完成,并于2025-05-08向國家知識產權局提交的專利申請。
本一種多教師模型一致性知識蒸餾方法在說明書摘要公布了:本發明公開了一種多教師模型一致性知識蒸餾方法。方法包括:搭建包括核心教師模型、輔助教師模型以及學生模型的多教師模型一致性知識蒸餾架構,構建目標檢測的訓練圖像集并輸入架構中進行訓練,獲得多教師頭部和頸部網絡一致性知識蒸餾模塊以及學生模型的訓練損失函數作為學生模型的最終損失函數,直至損失函數收斂,獲得訓練完成的學生模型,進而對圖像進行目標檢測。本發明方法通過對多個教師模型的頭部和頸部網絡一致性知識和頸部網絡一致性知識的融合,改善了目標檢測模型對復雜場景檢測的分類和定位預測一致性,并緩解了單個教師模型知識偏差帶來的不利影響。
本發明授權一種多教師模型一致性知識蒸餾方法在權利要求書中公布了:1.一種多教師模型一致性知識蒸餾方法,其特征在于,包括: 步驟S1:搭建包括一個核心教師模型、若干輔助教師模型以及一個學生模型的多教師模型一致性知識蒸餾架構,構建目標檢測的訓練圖像集并輸入多教師模型一致性知識蒸餾架構中進行訓練,獲得多教師頭部和頸部網絡一致性知識蒸餾模塊,并和學生模型的訓練損失函數共同作為學生模型的最終損失函數,直至最終損失函數收斂,獲得訓練完成的學生模型; 步驟S2:將待目標檢測的圖像輸入訓練完成的學生模型中,處理后輸出圖像的目標檢測結果并在顯示器上顯示; 所述的步驟S1中,多教師模型一致性知識蒸餾架構中還包括特征融合模塊,特征融合模塊在通道維度連接核心教師模型和各個輔助教師模型的教師頸部網絡的輸出;核心教師模型、各個輔助教師模型以及學生模型的結構均相同,包括依次連接的骨干網絡、頸部網絡和頭部網絡,訓練圖像集中包括若干張訓練圖像,每次將同一張訓練圖像輸入核心教師模型、各個輔助教師模型以及學生模型中,處理后輸出核心教師模型的分類輸出和定位輸出,各個輔助教師模型的分類輸出和定位輸出以及學生模型的分類輸出和定位輸出,同時核心教師模型和各個輔助教師模型的頸部網絡的輸出共同經特征融合模塊處理后輸出融合特征圖,融合特征圖再經核心教師模型的頭部網絡處理后輸出融合分類輸出和融合定位輸出;根據每個輔助教師模型和核心教師模型的分類輸出和定位輸出構建教師頭部網絡一致性知識,根據學生模型的分類輸出和定位輸出構建學生頭部網絡一致性知識,根據核心教師模型和各個輔助教師模型的分類輸出和定位輸出構建多教師一致性知識融合權重以及融合一致性知識,將每個輔助教師模型的教師頭部網絡一致性知識、核心教師模型的教師頭部網絡一致性知識、學生模型的學生頭部網絡一致性知識、多教師一致性知識融合權重以及融合一致性知識共同構建多教師頭部網絡一致性知識蒸餾模塊;根據核心教師模型的頸部網絡的輸出、分類輸出和定位輸出以及學生模型的頸部網絡的輸出構建核心教師頸部網絡一致性知識蒸餾模塊,根據融合特征圖、融合分類輸出和融合定位輸出以及學生模型的頸部網絡的輸出構建輔助教師頸部網絡一致性知識蒸餾模塊,基于核心和輔助教師頸部網絡一致性知識蒸餾模塊構建多教師頸部網絡一致性知識蒸餾模塊;將多教師頭部網絡一致性知識蒸餾模塊、多教師頸部網絡一致性知識蒸餾模塊以及學生模型的訓練損失函數共同作為學生模型的最終損失函數。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人浙江大學,其通訊地址為:310058 浙江省杭州市西湖區余杭塘路866號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。