成都理工大學(xué)姚光樂獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉成都理工大學(xué)申請的專利一種基于ViT的遙感影像大模型的在線增量學(xué)習(xí)方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN120339849B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-19發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202510820334.1,技術(shù)領(lǐng)域涉及:G06V20/10;該發(fā)明授權(quán)一種基于ViT的遙感影像大模型的在線增量學(xué)習(xí)方法是由姚光樂;林凡皓;李軍;王洪輝;王琛;徐曉宇;龐璐;彭鵬;楊冬營設(shè)計研發(fā)完成,并于2025-06-19向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種基于ViT的遙感影像大模型的在線增量學(xué)習(xí)方法在說明書摘要公布了:本發(fā)明公開了一種基于ViT的遙感影像大模型的在線增量學(xué)習(xí)方法,屬于圖像處理技術(shù)領(lǐng)域,包括獲取數(shù)據(jù)集;構(gòu)造一雙分支編解碼網(wǎng)絡(luò),包括空?譜雙分支編碼器、混合連接編碼器HCE和混合連接解碼器HCD;構(gòu)造雙分支編解碼網(wǎng)絡(luò)的損失函數(shù)L,用遙感影像數(shù)據(jù)集D以最小化L訓(xùn)練至收斂,得到第一基礎(chǔ)模型并凍結(jié)其參數(shù);基于第一基礎(chǔ)模型和分類器構(gòu)造第二基礎(chǔ)模型,用第二基礎(chǔ)模型的在線增量學(xué)習(xí)。本發(fā)明能實現(xiàn)跨模態(tài)特征的深度交互與增強;并基于LoRA方法進行在線增量學(xué)習(xí)和網(wǎng)絡(luò)參數(shù)更新,并實時監(jiān)測在線分類任務(wù)的損失變化來凍結(jié)與合并LoRA參數(shù)。在LoRA模塊中引入正則化項來避免災(zāi)難性遺忘,從而實現(xiàn)高效、可擴展且任務(wù)無關(guān)的在線增量學(xué)習(xí)。
本發(fā)明授權(quán)一種基于ViT的遙感影像大模型的在線增量學(xué)習(xí)方法在權(quán)利要求書中公布了:1.一種基于ViT的遙感影像大模型的在線增量學(xué)習(xí)方法,其特征在于,包括以下步驟; S1,獲取遙感影像數(shù)據(jù)集D,D={X1,X2,…,Xi,…,XN},Xi為D中第i個經(jīng)過類別標注的圖像塊,,C為光譜通道數(shù),P×P為圖像塊尺寸,N為圖像塊總數(shù); S2,構(gòu)造一雙分支編解碼網(wǎng)絡(luò),包括空-譜雙分支編碼器、混合連接編碼器HCE和混合連接解碼器HCD,構(gòu)造方法包括S21~S23; S21,構(gòu)造空-譜雙分支編碼器,包括空間編碼器和光譜編碼器; 所述空間編碼器用于對Xi進行隨機掩碼和空間編碼,得到空間特征ei,s,所述光譜編碼器用于對Xi進行隨機掩碼和光譜編碼,得到光譜特征ei,c; S22,構(gòu)造混合連接編碼器HCE; 獲取兩個結(jié)構(gòu)相同的Transformer編碼器,均由Z個Transformer層堆疊而成; 將一Transformer編碼器輸入端連接空間編碼器的輸出,其中第z個Transformer層標記為Esz,另一Transformer編碼器輸入端連接光譜編碼器的輸出,其中第z個Transformer層標記為Ecz,1≤z≤Z; 將Esz中多頭自注意力層修改為第一混合連接注意力模塊HCA1,得到空間編碼分支,將Ecz中多頭自注意力層修改為第二混合連接注意力模塊HCA2,得到光譜編碼分支,兩編碼分支構(gòu)成混合連接編碼器; 所述HCA1的輸出特征HCAc,s、HCA2的輸出特征HCAs,c分別根據(jù)下式得到; HCAc,s=AttentionQc,Kc,Vc+AttentionQc,Ks,Vs, HCAs,c=AttentionQs,Ks,Vs+AttentionQs,Kc,Vc, 式中,Attention?為自注意力操作,Qc、Kc、Vc分別為Ecz中的Q矩陣、K矩陣和V矩陣,Qs、Ks、Vs分別為Esz中的Q矩陣、K矩陣和V矩陣; S23,構(gòu)造混合連接解碼器HCD,包括空間解碼分支和光譜解碼分支,空間解碼分支用于對空間編碼器的掩碼區(qū)域進行預(yù)測,得到空間重建圖,所述光譜解碼分支用于對光譜編碼器的掩碼區(qū)域進行預(yù)測,得到光譜重建圖; S3,構(gòu)造雙分支編解碼網(wǎng)絡(luò)的損失函數(shù)L,用遙感影像數(shù)據(jù)集D以最小化L訓(xùn)練至收斂,得到第一基礎(chǔ)模型并凍結(jié)其參數(shù); S4,刪除第一基礎(chǔ)模型中HCD,將HCE兩路輸出相加后送入一分類器,得到第二基礎(chǔ)模型,所述第二基礎(chǔ)模型用于輸入圖像塊,輸出其對應(yīng)的分類結(jié)果; S5,第二基礎(chǔ)模型的在線增量學(xué)習(xí); S51,在第二基礎(chǔ)模型的空間編碼分支和光譜編碼分支各引入一LoRA模塊; S52,用第二基礎(chǔ)模型在線檢測由圖像塊構(gòu)成的數(shù)據(jù)流,用數(shù)據(jù)流基于LoRA方法更新LoRA模塊參數(shù),并檢測數(shù)據(jù)流的數(shù)據(jù)分布是否改變; S53,若改變,將LoRA模塊參數(shù)并入第二基礎(chǔ)模型,并重復(fù)S51~S52,否則不處理。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人成都理工大學(xué),其通訊地址為:610000 四川省成都市成華區(qū)二仙橋東三路1號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。
- 百度在線網(wǎng)絡(luò)技術(shù)(北京)有限公司芮曉飛獲國家專利權(quán)
- 維薩國際服務(wù)協(xié)會B·P·普羅科普獲國家專利權(quán)
- 蘇州開端機電科技有限公司金偉獲國家專利權(quán)
- 彤程化學(xué)(中國)有限公司劉強強獲國家專利權(quán)
- 北京京東乾石科技有限公司肖鵬宇獲國家專利權(quán)
- 北京京東尚科信息技術(shù)有限公司劉鑫辰獲國家專利權(quán)
- 維嘉數(shù)控科技(蘇州)有限公司袁績獲國家專利權(quán)
- 通用電氣公司王汝錫獲國家專利權(quán)
- 松下電器(美國)知識產(chǎn)權(quán)公司大內(nèi)干博獲國家專利權(quán)
- 大舜激光(黃山)科技有限公司楊少辰獲國家專利權(quán)