買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉平安科技(深圳)有限公司申請的專利自回歸語言模型的訓(xùn)練方法、裝置、設(shè)備及存儲介質(zhì)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN113850052B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-29發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202111146282.2，技術(shù)領(lǐng)域涉及：G06F40/111；該發(fā)明授權(quán)自回歸語言模型的訓(xùn)練方法、裝置、設(shè)備及存儲介質(zhì)是由于鳳英;王健宗設(shè)計(jì)研發(fā)完成，并于2021-09-28向國家知識產(chǎn)權(quán)局提交的專利申請。

本自回歸語言模型的訓(xùn)練方法、裝置、設(shè)備及存儲介質(zhì)在說明書摘要公布了：本申請涉及人工智能技術(shù)領(lǐng)域，揭示了一種自回歸語言模型的訓(xùn)練方法、裝置、介質(zhì)及設(shè)備，其中方法包括：獲取訓(xùn)練語句，提取所述訓(xùn)練語句的訓(xùn)練文本向量；獲取配置指令和所述訓(xùn)練語句的期望訓(xùn)練結(jié)果，并根據(jù)所述配置指令中的標(biāo)志符信息和配置規(guī)則配置語句模板；將所述訓(xùn)練文本向量和所述語句模板輸入詞向量模型中，通過所述詞向量模型對所述訓(xùn)練文本向量和所述語句模板進(jìn)行映射計(jì)算，得到所述訓(xùn)練文本向量在所述語句模板下的內(nèi)容映射信息；基于注意力模型，根據(jù)所述內(nèi)容映射信息和所述期望訓(xùn)練結(jié)果對所述詞向量模型進(jìn)行迭代訓(xùn)練，得到基于所述語句模板的自回歸語言模型從而在根據(jù)格式生成文本的同時保證生成效率。

本發(fā)明授權(quán)自回歸語言模型的訓(xùn)練方法、裝置、設(shè)備及存儲介質(zhì)在權(quán)利要求書中公布了：1.一種自回歸語言模型的訓(xùn)練方法，其特征在于，所述方法包括： 獲取訓(xùn)練語句，提取所述訓(xùn)練語句的訓(xùn)練文本向量； 獲取配置指令和所述訓(xùn)練語句的期望訓(xùn)練結(jié)果，并根據(jù)所述配置指令中的標(biāo)志符信息和配置規(guī)則配置語句模板，其中，所述標(biāo)志符信息包括普通文本符、標(biāo)點(diǎn)符、韻腳符、分隔符和結(jié)束符中的一種或多種；所述期望訓(xùn)練結(jié)果為根據(jù)訓(xùn)練語句人工生成的標(biāo)準(zhǔn)結(jié)果； 將所述訓(xùn)練文本向量和所述語句模板輸入詞向量模型中，通過所述詞向量模型對所述訓(xùn)練文本向量和所述語句模板進(jìn)行映射計(jì)算，得到所述訓(xùn)練文本向量在所述語句模板下的內(nèi)容映射信息； 基于注意力模型，根據(jù)所述內(nèi)容映射信息和所述期望訓(xùn)練結(jié)果對所述詞向量模型進(jìn)行迭代訓(xùn)練，得到基于所述語句模板的自回歸語言模型； 所述根據(jù)所述內(nèi)容映射信息和所述期望訓(xùn)練結(jié)果對所述詞向量模型進(jìn)行迭代訓(xùn)練，得到基于所述語句模板的自回歸語言模型的步驟之前包括： 通過softmax獲取內(nèi)容映射信息對應(yīng)部分的權(quán)重值，對編碼階段的每個內(nèi)容映射信息增加一個權(quán)重，由此得到內(nèi)容映射信息序列中每一個部分的重要性； 通過所述注意力模型，選擇內(nèi)容映射信息中重要的部分來作為編碼的輸入。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人平安科技(深圳)有限公司，其通訊地址為：518000 廣東省深圳市福田區(qū)福田街道福安社區(qū)益田路5033號平安金融中心23樓；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。