南京大學殷亞鳳獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉南京大學申請的專利基于數據增強與知識蒸餾的可增類行為識別系統及方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114638289B 。
龍圖騰網通過國家知識產權局官網在2025-08-08發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210216245.2,技術領域涉及:G06F18/241;該發明授權基于數據增強與知識蒸餾的可增類行為識別系統及方法是由殷亞鳳;劉仲;謝磊;陸桑璐設計研發完成,并于2022-03-07向國家知識產權局提交的專利申請。
本基于數據增強與知識蒸餾的可增類行為識別系統及方法在說明書摘要公布了:本發明公開了一種基于數據增強與知識蒸餾的可增類行為識別系統及方法,包括:數據采集單元,用于采集用戶運動時的傳感器數據;數據預處理單元,輸出經過預處理后的行為數據;存儲單元,用于存儲舊行為類別代表樣本集和舊行為識別模型;行為識別單元,用于對預處理后的行為數據進行識別和分類;增類訓練單元,輸出一個新行為識別模型;所述新行為識別模型對舊行為類別數據或新行為類別數據進行識別,輸出行為識別結果。本發明在行為識別的持續學習過程中,保證了持續學習性能和資源成本優勢;同時符合現實生活中用戶行為的動態擴張性,對未知的新類別行為能夠保持可持續性的增類識別性能。
本發明授權基于數據增強與知識蒸餾的可增類行為識別系統及方法在權利要求書中公布了:1.一種基于數據增強與知識蒸餾的可增類行為識別系統,其特征在于,包括:數據采集單元、數據預處理單元、存儲單元、行為識別單元和增類訓練單元; 數據采集單元,用于采集用戶運動時的慣性傳感器三個軸的加速度計和三個軸的陀螺儀數據; 數據預處理單元,對獲取的加速計數據和陀螺儀數據進行重采樣,裁剪數據長度以及歸一化數據的值,輸出經過預處理后的行為數據; 存儲單元,用于存儲舊行為類別代表樣本集和舊行為識別模型; 行為識別單元,用于對所述預處理后的行為數據進行識別和分類,對于新行為類別,改變分類器的輸出類別數,并將新行為類別的樣本和舊行為類別的代表性樣本作為訓練樣本,產生一個增類訓練任務,發送給增類訓練單元; 增類訓練單元,獲取存儲單元存儲的舊行為識別模型,使用新行為類別的樣本以及舊行為類別的部分代表性樣本對舊行為識別模型進行增類訓練,輸出一個新行為識別模型;所述新行為識別模型對舊行為類別數據或新行為類別數據進行識別,輸出行為識別結果; 所述行為識別單元包括:特征提取模塊和分類器模塊; 所述特征提取模塊,將數據預處理單元處理后的行為數據進行編碼,輸出一個256維特征向量; 所述分類器模塊,將編碼后的256維特征向量與分類器的隱藏層特征矩陣進行內積計算,輸出一個N維向量,N代表行為類別數量,N維向量上最大數值對應的類別即為分類結果; 所述增類訓練單元包含知識蒸餾模塊和數據增強模塊; 所述知識蒸餾模塊,獲取舊行為識別模型Mo的輸出與新行為識別模型Mt的輸出,進行損失函數計算,計算結果用于指導新行為識別模型Mt的訓練,知識蒸餾模塊包含:隱藏層特征向量蒸餾模塊和隱藏層自注意力矩陣蒸餾模塊;將行為數據輸入到新行為識別模型Mt和舊行為識別模型Mo中,新行為識別模型Mt和舊行為識別模型Mo都會輸出各自的隱藏層特征向量和隱藏層自注意力矩陣; 所述數據增強模塊,使用舊行為類別代表樣本集Dold輸入到新行為識別模型Mt中,輸出特征向量,隨機選取兩個樣本的特征向量按照概率分布線性組合,同時將每個樣本的標簽按照相同的概率分布線性組合,線性組合后的特征向量加入隨機噪聲和標簽進行反向傳播,訓練新行為識別模型Mt,增強模型的泛化性能; 所述隱藏層特征向量蒸餾模塊分為兩部分,一部分蒸餾隱藏層特征向量的維度信息,另一部分蒸餾隱藏層特征向量的時序信息; 隱藏層特征向量的維度信息蒸餾如下:對新行為識別模型Mt輸出的隱藏層特征向量和舊行為識別模型Mo輸出的隱藏層特征向量計算損失,用于反向傳播,訓練新行為識別模型Mt,使新行為識別模型Mt獲取舊行為識別模型Mo中舊行為類別的知識,公式表達如下: 其中,代表舊行為識別模型Mo輸出的隱藏層特征向量,代表新行為識別模型Mt輸出的隱藏層特征向量;W表示特征維度,T表示特征向量長度,l表示批處理的樣本數量; 隱藏層特征向量的時序信息蒸餾如下:行為識別模型輸出的隱藏層特征向量在時序上存在依賴關系,蒸餾隱藏層特征向量的時序依賴關系,從時序相關性中尋找規律;將新行為識別模型Mt和舊行為識別模型Mo的隱藏層特征向量各自進行矩陣轉置和乘法運算,再進行蒸餾,公式表達如下: 其中,DKL代表計算KL散度,即兩個向量之間的差異性;|T|代表特征向量長度;代表特征向量維度;表示舊行為識別模型Mo的隱藏層特征向量通過矩陣轉置和乘法運算得到的權重注意力矩陣;表示新行為識別模型Mt的隱藏層特征向量通過矩陣轉置和乘法運算得到的權重注意力矩陣;表示計算得到的時序相關性的損失; 隱藏層自注意力矩陣蒸餾模塊的輸入是新行為識別模型Mt和舊行為識別模型Mo分別輸出的隱藏層自注意力矩陣,公式表達如下: 其中,表示舊行為識別模型Mo輸出的隱藏層自注意力矩陣,表示新行為識別模型Mt輸出的隱藏層自注意力矩陣,MSE,表示計算兩個向量之間的平均歐幾里得距離,Γ表示多頭自注意力模塊的多頭數量,表示隱藏層自注意力矩陣的損失值; 所述數據增強模塊包含基于線性組合的數據增強和噪聲增強; 所述基于線性組合的數據增強具體為:在增類訓練過程中,將存儲單元中的代表樣本集輸入到新行為識別模型Mt,新行為識別模型Mt輸出的隱藏層特征向量進行線性組合獲得新的特征向量,從而通過產生更多的樣本提高模型的泛化性;公式如下: 其中,xi和xj表示輸入到新行為識別模型Mt的隱藏層特征向量,yi和yj分別對應于xi和xj的分類標簽,表示線性組合之后的特征向量,表示線性組合之后的標簽,λ表示超參,該超參服從正態分布。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人南京大學,其通訊地址為:210093 江蘇省南京市鼓樓區漢口路22號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。