山東浪潮科學研究院有限公司楊彤獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉山東浪潮科學研究院有限公司申請的專利一種基于大語言模型的代碼生成方法、裝置、設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120406959B 。
龍圖騰網通過國家知識產權局官網在2025-09-05發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510919905.7,技術領域涉及:G06F8/41;該發明授權一種基于大語言模型的代碼生成方法、裝置、設備及存儲介質是由楊彤;李雪;張吉臣;邵嘉豪設計研發完成,并于2025-07-04向國家知識產權局提交的專利申請。
本一種基于大語言模型的代碼生成方法、裝置、設備及存儲介質在說明書摘要公布了:本申請公開了一種基于大語言模型的代碼生成方法、裝置、設備及存儲介質,涉及大模型技術領域,包括:基于模型的用于代碼生成的初始推理路徑生成當前標記,緩存當前標記的查詢向量,基于若干待處理標記的查詢向量構建選擇窗口;利用基于選擇窗口獲取的目標模型層和目標注意力頭的滑動窗口注意力處理歷史標記得到重要性評分結果與段落生成結果,利用基于重要性評分結果和各段落生成結果的語義稀疏性結果確定的語義塊劃分策略劃分待壓縮標記序列為語義塊,基于各語義塊的重要性得分并利用基于模型特性和推理需求確定的壓縮控制參數生成目標壓縮策略,利用目標壓縮策略壓縮初始推理路徑得到目標推理路徑以生成代碼。這樣能夠提高代碼生成的效率。
本發明授權一種基于大語言模型的代碼生成方法、裝置、設備及存儲介質在權利要求書中公布了:1.一種基于大語言模型的代碼生成方法,其特征在于,包括: 利用預設自回歸方式并基于所述大語言模型對應的用于代碼生成的初始推理路徑生成各當前標記,并緩存與各所述當前標記對應的查詢向量,然后從各所述當前標記中選取預設數量個最近生成的各待處理標記,以基于各所述待處理標記分別對應的查詢向量構建選擇窗口; 基于所述選擇窗口獲取目標模型層和目標注意力頭分別對應的滑動窗口注意力,并基于所述滑動窗口注意力對相應的歷史標記進行處理,得到重要性評分結果與段落生成結果,然后對各所述段落生成結果進行評估,得到對應的語義稀疏性結果;所述目標模型層為所述大語言模型的各模型層中與歷史標記對應的模型層;所述目標注意力頭為所述大語言模型的各注意力頭中與歷史標記對應的注意力頭; 基于所述重要性評分結果與所述語義稀疏性結果確定語義塊劃分策略,并基于所述語義塊劃分策略將包括各所述當前標記的待壓縮標記序列劃分為語義塊,然后基于各所述語義塊對應的重要性得分進行排序,得到排序結果; 基于所述大語言模型的模型特性和推理需求確定壓縮控制參數,以基于所述壓縮控制參數生成目標壓縮策略,并利用所述目標壓縮策略對所述大語言模型對應的初始推理路徑進行壓縮,得到目標推理路徑;所述壓縮控制參數包括壓縮間隔、選擇窗口大小與壓縮比例; 利用所述大語言模型并基于所述目標推理路徑生成代碼。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人山東浪潮科學研究院有限公司,其通訊地址為:250000 山東省濟南市高新區浪潮路1036號S02號樓;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。