買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉福州大學(xué)申請的專利基于雙視圖對比學(xué)習(xí)與圖剪枝的多跳閱讀理解方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN116403231B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-08發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202310398450.X，技術(shù)領(lǐng)域涉及：G06V30/412；該發(fā)明授權(quán)基于雙視圖對比學(xué)習(xí)與圖剪枝的多跳閱讀理解方法及系統(tǒng)是由陳羽中;陳謹雯設(shè)計研發(fā)完成，并于2023-04-14向國家知識產(chǎn)權(quán)局提交的專利申請。

本基于雙視圖對比學(xué)習(xí)與圖剪枝的多跳閱讀理解方法及系統(tǒng)在說明書摘要公布了：本發(fā)明涉及一種基于雙視圖對比學(xué)習(xí)與圖剪枝的多跳閱讀理解方法及系統(tǒng)，該方法包括以下步驟：步驟A：采集問題、文章上下文、答案和支持事實數(shù)據(jù)，構(gòu)建多跳閱讀理解訓(xùn)練集；步驟B：使用訓(xùn)練集訓(xùn)練用于多跳閱讀理解的基于雙視圖對比學(xué)習(xí)與圖剪枝的深度學(xué)習(xí)網(wǎng)絡(luò)模型D；步驟C：將問題、文章數(shù)據(jù)依次輸入深度學(xué)習(xí)網(wǎng)絡(luò)模型D中，輸出當前的問題的相應(yīng)答案。該方法及系統(tǒng)有利于提高多跳閱讀理解答案預(yù)測的準確性。

本發(fā)明授權(quán)基于雙視圖對比學(xué)習(xí)與圖剪枝的多跳閱讀理解方法及系統(tǒng)在權(quán)利要求書中公布了：1.一種基于雙視圖對比學(xué)習(xí)與圖剪枝的多跳閱讀理解方法，其特征在于，包括以下步驟： 步驟A：采集問題、文章上下文、答案和支持事實數(shù)據(jù)，構(gòu)建多跳閱讀理解訓(xùn)練集； 步驟B：使用訓(xùn)練集訓(xùn)練用于多跳閱讀理解的基于雙視圖對比學(xué)習(xí)與圖剪枝的深度學(xué)習(xí)網(wǎng)絡(luò)模型D； 步驟C：將問題、文章數(shù)據(jù)輸入深度學(xué)習(xí)網(wǎng)絡(luò)模型D中，輸出當前問題的相應(yīng)答案； 所述步驟B具體包括以下步驟： 步驟B1：使用預(yù)訓(xùn)練模型Roberta對訓(xùn)練集中各個樣本的各個段落包含黃金支持事實的概率進行計算，同時將各個樣本的標題和段落的關(guān)系對與問題進行文本匹配，得到N個候選段落pcandi＝{p1,p2,...,pN}； 步驟B2：將步驟B1得到的候選段落pcandi和問題、段落中句子、段落中實體詞、超鏈接一同作為節(jié)點構(gòu)造層次圖G，并通過G中各節(jié)點邊關(guān)系構(gòu)造層次圖的鄰接矩陣Aadj； 步驟B3：將步驟B2得到的層次圖G使用預(yù)訓(xùn)練模型Roberta獲得所有圖節(jié)點的初始表示，得到段落、句子、實體三種類型的節(jié)點表示以及問題節(jié)點表示fq，以此獲得層次圖的總體節(jié)點表示 步驟B4：將步驟B2、B3得到的層次圖的鄰接矩陣Aadj及節(jié)點表示F用隨機刪除邊關(guān)系和隨機掩蔽節(jié)點特征的方法對層次圖分別進行兩次損壞，兩個損壞后的層次圖即為雙視圖，從而得到兩個視圖的鄰接矩陣A1,A2和節(jié)點表示F1,F2；然后將兩個視圖分別輸入到圖注意力網(wǎng)絡(luò)中，得到更新后的節(jié)點表示 步驟B5：使用門控注意力機制計算初始上下文嵌入E和更新后圖節(jié)點表示得到相關(guān)性系數(shù)和上下文表征EG；同時，被損壞的兩個視圖的鄰接矩陣A1,A2和特征矩陣F1,F2相互作為正負樣本，以余弦相似度計算每一對樣本相似性，得到兩個圖的對比學(xué)習(xí)損失最大化雙視圖正例對總體目標損失Lgra； 步驟B6：在步驟5中得到的上下文表征EG中包含候選答案節(jié)點其中ne表示層次圖中限定的實體詞節(jié)點的個數(shù)，d表示表征向量維度；將其與步驟B3得到的問題節(jié)點表示fq采用關(guān)系過濾方法生成注意力權(quán)重稀疏矩陣將其用來篩選當前候選答案節(jié)點； 步驟B7：將步驟B4和B6得到的所有的不同類型節(jié)點分別輸入多層感知機進行子任務(wù)預(yù)測，得到段落、支持事實、實體詞、答案類型預(yù)測結(jié)果，使用交叉熵函數(shù)計算各類預(yù)測損失；隨后根據(jù)答案類型預(yù)測結(jié)果返回相應(yīng)類型的答案；然后根據(jù)目標損失函數(shù)，通過反向傳播方法計算深度學(xué)習(xí)網(wǎng)絡(luò)模型中各參數(shù)的梯度，并利用隨機梯度下降方法更新各參數(shù)； 步驟B8：當深度學(xué)習(xí)網(wǎng)絡(luò)模型產(chǎn)生的損失值小于設(shè)定的閾值或達到最大的迭代次數(shù)時，終止深度學(xué)習(xí)網(wǎng)絡(luò)模型D的訓(xùn)練； 所述步驟B5具體包括以下步驟： 步驟B51：設(shè)E＝{Q,P}為上下文編碼層經(jīng)Roberta編碼后的初始嵌入表示，以注意力機制的計算方式計算出上下文嵌入和更新圖節(jié)點的相關(guān)性系數(shù)再結(jié)合門控機制獲得門控上下文表征 其中，是可學(xué)習(xí)參數(shù)矩陣； 步驟B52：對于圖A1上的任一節(jié)點圖A2中對應(yīng)的節(jié)點為正樣本，圖A2中的其余節(jié)點以及圖A1中的其余節(jié)點為負樣本，A2對于A1也是同樣計算；以余弦相似度計算兩個圖樣本損失正例對的訓(xùn)練目標為epv，負例對的訓(xùn)練目標為另一圖中負例對的訓(xùn)練目標為 其中，分別為A1中除之外的其他節(jié)點的集合以及A2中除之外的其他節(jié)點的集合，τ是溫度系數(shù)，cos為余弦相似度計算； 步驟B53：以最大化雙圖正例對總體目標損失Lgra為此模塊任務(wù)損失： 所述步驟B6具體包括以下步驟： 步驟B61：將上下文編碼后的問題節(jié)點表示fq與更新后的候選答案節(jié)點采用注意力機制生成注意力矩陣 步驟B62：將步驟B61生成的注意力矩陣按維度降序排序生成矩陣再將該矩陣中聯(lián)系最為緊密的Nrelation個關(guān)系保留，生成較為精準的注意力權(quán)重稀疏矩陣 其中，sort為降序排序函數(shù)，fPruning為剪枝函數(shù)； 步驟B63：將步驟B62生成的注意力權(quán)重稀疏矩陣與候選答案節(jié)點相乘，得到篩選后的候選答案節(jié)點

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人福州大學(xué)，其通訊地址為：350108 福建省福州市閩侯縣福州大學(xué)城烏龍江北大道2號福州大學(xué)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。