中國(guó)石油大學(xué)(華東)鄧?guó)櫽瞰@國(guó)家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉中國(guó)石油大學(xué)(華東)申請(qǐng)的專利一種基于正交與投影雙空間優(yōu)化的無數(shù)據(jù)模型融合方法獲國(guó)家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN120234765B 。
龍圖騰網(wǎng)通過國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-08-22發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為:202510715352.3,技術(shù)領(lǐng)域涉及:G06F18/25;該發(fā)明授權(quán)一種基于正交與投影雙空間優(yōu)化的無數(shù)據(jù)模型融合方法是由鄧?guó)櫽?田正德;劉偉鋒;王進(jìn)設(shè)計(jì)研發(fā)完成,并于2025-05-30向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。
本一種基于正交與投影雙空間優(yōu)化的無數(shù)據(jù)模型融合方法在說明書摘要公布了:本發(fā)明公開一種基于正交與投影雙空間優(yōu)化的無數(shù)據(jù)模型融合方法,屬于數(shù)據(jù)模型融合技術(shù)領(lǐng)域,用于無數(shù)據(jù)模型融合,包括對(duì)共享正交子空間進(jìn)行奇異值分解,去除冗余向量得到無冗余子空間,通過正交空間投影將關(guān)鍵參數(shù)投影至正交子空間參數(shù)模塊中,正交子空間優(yōu)化器進(jìn)行梯度信息更新后反饋至正交子空間參數(shù)模塊,投影子空間優(yōu)化器進(jìn)行梯度更新反饋至雙空間約束器中,將預(yù)訓(xùn)練模型、投影子空間優(yōu)化器的輸出、重整后向量進(jìn)行模型融合。本發(fā)明適用于多任務(wù)場(chǎng)景下多個(gè)專家模型的合并,無需依賴額外數(shù)據(jù)或重新訓(xùn)練,顯著降低計(jì)算成本與隱私風(fēng)險(xiǎn);通過在子空間中同時(shí)最大化任務(wù)共享信息、最小化參數(shù)沖突,以進(jìn)一步提升無數(shù)據(jù)模型融合的整體性能與適用性。
本發(fā)明授權(quán)一種基于正交與投影雙空間優(yōu)化的無數(shù)據(jù)模型融合方法在權(quán)利要求書中公布了:1.一種基于正交與投影雙空間優(yōu)化的無數(shù)據(jù)模型融合方法,其特征在于,包括計(jì)算約束下的正交子空間、雙空間約束合并、融合最終模型; 所述計(jì)算約束下的正交子空間包括將微調(diào)模型集合與預(yù)訓(xùn)練模型進(jìn)行減法運(yùn)算,得到任務(wù)向量,對(duì)任務(wù)向量進(jìn)行奇異值分解,將分解結(jié)果拼接至共享正交子空間,對(duì)共享正交子空間進(jìn)行奇異值分解,去除冗余向量得到無冗余子空間,通過正交空間投影將關(guān)鍵參數(shù)投影至正交子空間參數(shù)模塊中;微調(diào)模型集合設(shè)有分支,進(jìn)行自適應(yīng)縮放,按層縮放系數(shù)調(diào)整,形成重整后向量,然后輸入至正交子空間優(yōu)化器,正交子空間參數(shù)模塊輸出梯度信息,和任務(wù)向量進(jìn)行任務(wù)向量預(yù)處理進(jìn)行融合,然后輸入至正交子空間優(yōu)化器,正交子空間優(yōu)化器進(jìn)行梯度信息更新后反饋至正交子空間參數(shù)模塊; 將微調(diào)模型集合分解為任務(wù)參數(shù)、元素參數(shù)、層參數(shù),所述雙空間約束合并包括將重整后向量、正交子空間參數(shù)、任務(wù)參數(shù)、元素參數(shù)、層參數(shù)一起輸入至雙空間約束器中,然后輸入至投影子空間優(yōu)化器,投影子空間優(yōu)化器進(jìn)行梯度更新反饋至雙空間約束器中; 所述融合最終模型包括將預(yù)訓(xùn)練模型、投影子空間優(yōu)化器的輸出、重整后向量進(jìn)行模型融合,最終得到融合模型,完成無數(shù)據(jù)模型融合; 將融合模型用于自然語言處理,獲得不同任務(wù)下的處理結(jié)果。
如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請(qǐng)人或?qū)@麢?quán)人中國(guó)石油大學(xué)(華東),其通訊地址為:266590 山東省青島市黃島區(qū)長(zhǎng)江西路66號(hào);或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 華為技術(shù)有限公司范強(qiáng)獲國(guó)家專利權(quán)
- LG電子株式會(huì)社具文模獲國(guó)家專利權(quán)
- 廈門金瑞鎰工貿(mào)有限公司林欲曉獲國(guó)家專利權(quán)
- 蘋果公司M·范歐斯獲國(guó)家專利權(quán)
- 杭州巨星科技股份有限公司李躍明獲國(guó)家專利權(quán)
- 西安艾潤(rùn)物聯(lián)網(wǎng)技術(shù)服務(wù)有限責(zé)任公司王林祥獲國(guó)家專利權(quán)
- 南通帝誠(chéng)華信實(shí)業(yè)有限公司張?jiān)魄瀚@國(guó)家專利權(quán)
- 索倫托藥業(yè)有限公司H·H·吉獲國(guó)家專利權(quán)
- 西門子股份公司V·托切爾獲國(guó)家專利權(quán)
- 豪倍公司D·里奇?zhèn)カ@國(guó)家專利權(quán)


熱門推薦
- 美蓓亞三美株式會(huì)社淺川壽昭獲國(guó)家專利權(quán)
- 北京奇虎科技有限公司郜業(yè)飛獲國(guó)家專利權(quán)
- 福特全球技術(shù)公司佩德羅斯·塔斯卡斯獲國(guó)家專利權(quán)
- 新思考電機(jī)有限公司孫偉獲國(guó)家專利權(quán)
- 高通股份有限公司A·馬諾拉科斯獲國(guó)家專利權(quán)
- 慧與發(fā)展有限責(zé)任合伙企業(yè)N·愛德華茲獲國(guó)家專利權(quán)
- 蘋果公司宿利獲國(guó)家專利權(quán)
- 北京小米移動(dòng)軟件有限公司趙群獲國(guó)家專利權(quán)
- 上海宇晝科技有限公司陳加成獲國(guó)家專利權(quán)
- 北方民族大學(xué)張白獲國(guó)家專利權(quán)