哈爾濱工業大學(深圳)(哈爾濱工業大學深圳科技創新研究院)劉學博獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉哈爾濱工業大學(深圳)(哈爾濱工業大學深圳科技創新研究院)申請的專利基于大模型的輕量化領域指令微調數據合成方法及裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120430303B 。
龍圖騰網通過國家知識產權局官網在2025-09-02發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510938346.4,技術領域涉及:G06F40/279;該發明授權基于大模型的輕量化領域指令微調數據合成方法及裝置是由劉學博;柯瀟鵬;鄧賀烜;張民設計研發完成,并于2025-07-08向國家知識產權局提交的專利申請。
本基于大模型的輕量化領域指令微調數據合成方法及裝置在說明書摘要公布了:本發明提供一種基于大模型的輕量化領域指令微調數據合成方法及裝置,涉及面向問答的大語言模型數據合成技術領域。該方法包括:將構建的無標簽數據集輸入大語言模型中,獲得合成數據集;采用合成數據集進行訓練,獲得訓練好的數據合成模型;采用低秩分解適配器對訓練好的數據合成模型進行指令微調,獲得微調后的模型;將給定任務類型和與其相關的無標簽數據輸入訓練好的數據合成模型中,生成具有問題、邏輯以及答案的數據;將無標簽數據和具有問題、邏輯以及答案的數據進行合并,獲得新的合成數據集;將新的合成數據集輸入微調后的模型中進行評估,獲得評估分數;根據評估分數進行過濾,獲得高質量數據集。采用本發明可提高數據合成的效率。
本發明授權基于大模型的輕量化領域指令微調數據合成方法及裝置在權利要求書中公布了:1.一種基于大模型的輕量化領域指令微調數據合成方法,其特征在于,所述方法包括: S1、構建無標簽數據集;其中,無標簽數據集包括:多種不同的任務類型和多領域的無標簽文本數據; S2、將多種不同的任務類型和多領域的無標簽文本數據輸入大語言模型中,獲得第一具有問題、邏輯以及答案的數據; S3、將多種不同的任務類型、多領域的無標簽文本數據以及第一具有問題、邏輯以及答案的數據進行合成,獲得第一合成數據集;采用第一合成數據集,通過構建的損失函數進行訓練,獲得訓練好的數據合成模型; S4、從無標簽數據集中隨機采樣無標簽文本數據和任務類型輸入訓練好的數據合成模型,合成第二具有問題、邏輯以及答案的數據;將隨機采樣的無標簽文本數據和任務類型以及第二具有問題、邏輯以及答案的數據進行合并,獲得第二合成數據集; S5、采用大語言模型對第二合成數據集進行評估,獲得第一評估分數;根據第一評估分數,獲得評估數據集;根據評估數據集,通過低秩分解適配器以及構建的微調損失函數,對訓練好的數據合成模型進行微調,獲得微調后的數據合成模型; S6、將給定任務類型和與給定任務類型相關的無標簽文本數據輸入訓練好的數據合成模型中,生成第三具有問題、邏輯以及答案的數據;將給定任務類型和與給定任務類型相關的無標簽文本數據以及第三具有問題、邏輯以及答案的數據進行合并,獲得第三合并數據集; S7、將第三合并數據集輸入微調后的數據合成模型進行評估,獲得第二評估分數;根據第二評估分數進行評估過濾,獲得高質量領域特定數據集。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人哈爾濱工業大學(深圳)(哈爾濱工業大學深圳科技創新研究院),其通訊地址為:518000 廣東省深圳市南山區桃源街道深圳大學城哈爾濱工業大學校區;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。