南京郵電大學陳思光獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉南京郵電大學申請的專利一種計算分層的聯邦學習訓練方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115859114B 。
龍圖騰網通過國家知識產權局官網在2025-08-08發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202211619123.4,技術領域涉及:G06F18/214;該發明授權一種計算分層的聯邦學習訓練方法是由陳思光;石雁航;黃宇虹設計研發完成,并于2022-12-14向國家知識產權局提交的專利申請。
本一種計算分層的聯邦學習訓練方法在說明書摘要公布了:本發明屬于物聯網技術領域,公開了一種高效的計算分層的聯邦學習訓練方法,包括:步驟1:構建一個計算分層的聯邦學習系統模型,步驟2:在聯邦學習系統模型中允許用戶在不需要進行本地梯度計算或連續數據傳輸的情況下參與聯邦訓練,該原則通過在線方法和離線方法實現;步驟3:針對聯邦學習系統模型中的競爭、用戶移動性、新的數據任務不斷呈現給聯邦學習系統模型和隱私保護的挑戰提供解決方案。本發明使資源受限的設備能夠在設備訓練和輕量級消息傳輸的基礎上執行聯邦訓練,在線和離線方法允許設備在不需要進行本地梯度計算或連續數據傳輸的情況下參與聯邦訓練,在保障性能的基礎上減輕訓練負擔,減少通信開銷。
本發明授權一種計算分層的聯邦學習訓練方法在權利要求書中公布了:1.一種計算分層的聯邦學習訓練方法,其特征在于:聯邦學習訓練方法包括如下步驟: 步驟1:構建一個計算分層的聯邦學習系統模型,所述聯邦學習系統模型由服務提供商、用戶和協調中心三個部分組成,服務提供商位于邊緣層,用戶位于用戶層,協調中心位于云服務器層,在系統模型中,邊緣節點協調用戶節點之間的協同訓練,為用戶節點提供計算輔助; 步驟2:構建實現步驟1聯邦學習系統模型的原則,在聯邦學習系統模型中允許用戶在不需要進行本地梯度計算或連續數據傳輸的情況下參與聯邦訓練,該原則通過在線方法和離線方法實現; 步驟3:針對聯邦學習系統模型中的競爭、用戶移動性、新的數據任務不斷呈現給聯邦學習系統模型和隱私保護的挑戰提供解決方案; 其中: 將訓練任務的計算負載從用戶層“遷移”到邊緣層是引入一個可訓練的損失函數以增強邊緣側的模型訓練,具體流程包括如下步驟: 步驟2-2-1:服務提供商首先對其具有監督損失和數據增強器的本地數據集進行模型訓練; 步驟2-2-2:然后服務提供商隨機選擇連接用戶的子集并將訓練后的模型分發給子集; 步驟2-2-3:用戶在本地數據集上評估更新后模型的質量,并將性能分數發送回服務提供商; 步驟2-2-4:服務提供商用輔助損失的參數和性能分數訓練值函數; 步驟2-2-5:用值函數優化輔助損失函數; 在服務提供商訓練目標模型之前,數據增強器對局部數據提供擾動,具體的步驟如下: 步驟2-1-1:服務提供商首先對其具有監督損失和輔助損失的本地數據集進行模型訓練; 步驟2-1-2:然后服務提供商隨機選擇連接用戶的子集并將訓練后的模型分發給子集; 步驟2-1-3:用戶在本地數據集上評估更新后模型的質量,并將性能分數發送回服務提供商; 步驟2-1-4:服務提供商用數據增強器的參數和性能分數訓練值函數; 步驟2-1-5:用值函數優化數據增強器; 所述離線方法利用知識蒸餾方法實現,具體的,在知識蒸餾方法中,所有用戶級節點僅在三個時間點與服務提供商通信,第一個時間點是服務提供商在沒有用戶節點參與的情況下完成了模型的訓練即,在邊緣完成了本地訓練或協作訓練,預訓練模型將被每個用戶下載,之后,用戶進行微調以定制預訓練模型,在此期間,服務提供商等待與用戶的第二次通信,即用戶將本地修改的模型上傳到服務提供商,在接收到個性化模型后,服務提供商執行知識蒸餾,通過聚合用戶的知識來細化目標模型,此過程將在邊緣側執行幾輪,直到模型收斂,最后,用戶從服務提供商下載目標模型,并自由斷開與服務提供商的網絡連接。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人南京郵電大學,其通訊地址為:210003 江蘇省南京市鼓樓區新模范馬路66號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。