邁容智能科技(上海)有限公司吳昆獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉邁容智能科技(上海)有限公司申請的專利一種融入全文信息的嵌套實體識別方法、設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114880466B 。
龍圖騰網通過國家知識產權局官網在2025-08-08發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210398804.6,技術領域涉及:G06F16/353;該發明授權一種融入全文信息的嵌套實體識別方法、設備及存儲介質是由吳昆;丁國棟設計研發完成,并于2022-04-16向國家知識產權局提交的專利申請。
本一種融入全文信息的嵌套實體識別方法、設備及存儲介質在說明書摘要公布了:本發明公開了一種融入全文信息的嵌套實體識別方法、設備及存儲介質,方法的步驟:使用預訓練語言模型編碼待識別文本,得到HL和HL?1;分類識別文本中所有字是否為實體的首尾邊界;將所有識別得到的首尾邊界一一配對得到多個候選實體;將候選實體在HL?1中對應位置的首尾字向量拼接映射作為候選實體向量,將各個候選實體向量視為查詢向量,HL?1視為關鍵字向量序列和值向量序列,將基于相對位置的注意力機制和殘差連接得到融合全文信息的候選實體向量;以融合全文信息的候選實體向量為特征判斷候選實體類型。本發明的方法,步序簡單且設計合理,計算復雜度低,且適用于任何形式的實體嵌套。
本發明授權一種融入全文信息的嵌套實體識別方法、設備及存儲介質在權利要求書中公布了:1.一種融入全文信息的嵌套實體識別方法,其特征在于,包括以下步驟: 1)使用預訓練語言模型編碼待識別文本,得到所述模型的頂層輸出向量序列和次頂層輸出向量序列; 2)分類識別文本中所有字是否為實體的首尾邊界; 3)將所有識別得到的首尾邊界一一配對得到多個候選實體; 4)將候選實體在中對應位置的首尾字向量拼接映射作為候選實體向量,將各個候選實體向量視為查詢向量,視為關鍵字向量序列和值向量序列,將基于相對位置的注意力機制得到各個候選實體的全文信息向量,并通過殘差連接得到融合全文信息的候選實體向量; 所述基于相對位置的注意力機制中相對位置嵌入的計算公式如下: , , , , , 其中,為候選實體,表示和首位的相對距離,表示候選實體和原文中詞的相對位置的向量表示,為可學習參數,P為相對位置嵌入,為相對位置,P的生成規則與Transformer原文中使用的一致,奇偶交錯的使用sin和cos生成固定的位置嵌入,dim為位置嵌入的維度; 所述基于相對位置的注意力機制中的注意力的計算公式如下: , 其中,表示候選實體在原文第b個詞的注意力分數,和分別表示候選實體和原文第b個詞的向量表示,v為可學習參數; 再結合Transformer中的多頭注意力機制,相對位置注意力計算可以描述為: , , , 其中為候選實體集合對應的實體向量序列,為可學習參數,h為總頭數,z為縮放常數; 5)以融合全文信息的候選實體向量為特征判斷候選實體類型。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人邁容智能科技(上海)有限公司,其通訊地址為:200433 上海市楊浦區邯鄲路10號8號樓309室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。