買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉北京工業(yè)大學(xué)申請的專利中文電子病歷的分詞方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN113095074B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-19發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202110303360.9，技術(shù)領(lǐng)域涉及：G06F40/289；該發(fā)明授權(quán)中文電子病歷的分詞方法及系統(tǒng)是由杜金蓮;密偉;蘇航;金雪云設(shè)計研發(fā)完成，并于2021-03-22向國家知識產(chǎn)權(quán)局提交的專利申請。

本中文電子病歷的分詞方法及系統(tǒng)在說明書摘要公布了：本發(fā)明公開了中文電子病歷的分詞方法及系統(tǒng)，該方法的主體為基于GNN?BiLSTM?CRF的中文電子病歷分詞模型，包含步驟如下：數(shù)據(jù)集的構(gòu)建及數(shù)據(jù)的處理。將來源于合作醫(yī)院的中文電子病歷數(shù)據(jù)進行人工標注，完成中文電子病歷分詞數(shù)據(jù)集的構(gòu)建。將構(gòu)建好的數(shù)據(jù)集中的數(shù)據(jù)轉(zhuǎn)為CoNLL格式。訓(xùn)練中文電子病歷分詞模型。本發(fā)明提出的中文電子病歷模型充分利用GNN及LSTM的優(yōu)勢，通過圖結(jié)構(gòu)和鏈結(jié)構(gòu)交互捕獲醫(yī)療術(shù)語構(gòu)詞規(guī)律等局部特征和上下文序列信息及長期特征，提高分詞的質(zhì)量。通過圖神經(jīng)網(wǎng)絡(luò)高效將領(lǐng)域詞典融入到分詞模型中，通過其學(xué)習術(shù)語構(gòu)詞規(guī)律擴展了詞典的應(yīng)用價值，降低了模型對數(shù)據(jù)集的依賴同時緩解了醫(yī)學(xué)術(shù)語繁多且與日俱增而導(dǎo)致的分詞問題。

本發(fā)明授權(quán)中文電子病歷的分詞方法及系統(tǒng)在權(quán)利要求書中公布了：1.中文電子病歷的分詞方法，其特征在于：該方法的主體為基于GNN-BiLSTM-CRF的中文電子病歷分詞模型，包含步驟如下： 步驟1，數(shù)據(jù)集的構(gòu)建及數(shù)據(jù)的處理； 將來源于合作醫(yī)院的中文電子病歷數(shù)據(jù)進行人工標注，完成中文電子病歷分詞數(shù)據(jù)集的構(gòu)建；將構(gòu)建好的數(shù)據(jù)集中的數(shù)據(jù)轉(zhuǎn)為CoNLL格式； 步驟2，訓(xùn)練中文電子病歷分詞模型； 步驟2.1，提取步驟1中處理完畢后的部分數(shù)據(jù)，生成訓(xùn)練集，將訓(xùn)練集和詞典輸入到嵌入單元中，使用Word2vec進行嵌入將字和詞轉(zhuǎn)化為對應(yīng)的向量輸入到模型的下一層圖神經(jīng)網(wǎng)絡(luò)GNN單元進行計算； 步驟2.2，通過嵌入后的字和詞的向量來構(gòu)建圖，其中字作為圖中的節(jié)點，詞作為圖中的邊，然后通過基于多頭注意力機制和門控機制的迭代聚合更新這種信息傳遞機制來學(xué)習醫(yī)學(xué)領(lǐng)域術(shù)語構(gòu)詞規(guī)律局部特征；每次迭代中圖的節(jié)點特征和邊的特征都會得到更新，將其最后一次迭代后的圖中每個節(jié)點的特征向量輸入到模型的下一層； 步驟2.3，將圖中的每個節(jié)點特征輸入到雙向長短期記憶網(wǎng)絡(luò)LSTM單元中，以對每個字的上下文信息進行建模捕獲序列信息和遠程依賴特征來挖掘中文電子病歷語料文本信息特征； 步驟2.4，對LSTM的輸出使用條件隨機場CRF單元來聯(lián)合解碼預(yù)測最佳標簽序列，最終輸出模型對每個字的預(yù)測標簽； 步驟2.5，使用負對數(shù)似然函數(shù)作為損失函數(shù)來評價模型的預(yù)測值和真實值的差異程度，通過最小化損失函數(shù)來進行訓(xùn)練，得到中文電子病歷分詞模型； 所述圖神經(jīng)網(wǎng)絡(luò)聚合運算使用多頭注意力機制，其中節(jié)點特征集合和邊特征集合eij為所有詞典和文本相匹配的詞即圖中的所有邊； 每個節(jié)點co聚合計算時經(jīng)過以下三步： 第一步，先確定節(jié)點co需要聚合的特征信息節(jié)點聚合時為每個節(jié)點聚合其邊特征和對應(yīng)相連節(jié)點的特征通過詞和詞首詞尾的特征提取習得詞的邊界信息；計算如公式1所示： 其中：“[||]”代表拼接操作，拼接后特征維度為2F；r∈No，No代表所有與co有邊連接的節(jié)點下標集合，“|”代表或，即同時考慮co作為詞首和詞尾兩種情況； 第二步，計算節(jié)點特征與聚合特征的注意力系數(shù)αro： 其中：Wc和Wg均為可訓(xùn)練的權(quán)重矩陣，其中將特征進行線性變換；Wo為可訓(xùn)練的權(quán)重矩陣，LR代表對使用LeakyReLU函數(shù)進行非線性激活； 第三步，使用多頭機制來計算聚合后的特征 其中：K為多頭注意力機制的頭數(shù)；代表第k個注意力機制計算的歸一化后的節(jié)點特征與對應(yīng)聚合特征的注意力系數(shù)；Wk為可訓(xùn)練權(quán)重矩陣；對所有頭進行加權(quán)平均，得到最終的輸出特征 節(jié)點聚合的最終輸出特征集合為 邊eij聚合經(jīng)過三步： 第一步，先確定邊eij需要聚合的特征信息邊聚合時為每條邊聚合該邊上的所有節(jié)點的特征信息，v∈Nij，Nij代表從節(jié)點i到節(jié)點j的所有節(jié)點的下標集合； 第二步，計算邊特征與聚合特征的注意力系數(shù)αiv： 其中，We和Wv均為可訓(xùn)練的權(quán)重矩陣，其中Wi為可訓(xùn)練的權(quán)重矩陣， 第三步，使用多頭機制來計算聚合后的特征 其中，K為多頭注意力機制的頭數(shù)；代表第k個注意力機制計算的歸一化后的邊特征與對應(yīng)聚合特征的注意力系數(shù)；We為可訓(xùn)練權(quán)重矩陣； 邊聚合的最終輸出特征集合為 使用門控機制將聚合得到的特征有控制的流向節(jié)點和邊，從而其學(xué)習聚合得到的局部特征信息； 輸入t時刻節(jié)點特征集合和節(jié)點聚合的特征集合 輸出t+1時刻 其中，W、V均為可訓(xùn)練的參數(shù)矩陣，b為可訓(xùn)練參數(shù)向量；⊙是HadamardProduct，矩陣中對應(yīng)的元素相乘，要求兩個相乘矩陣同型；σ為激活函數(shù)sigmoid；Softmax對兩個門控進行歸一化；tanh為激活函數(shù)，進行非線性變化；為節(jié)點o在t+1輪迭代中的節(jié)點特征； 計算兩個門控和以及待學(xué)習的特征信息均由節(jié)點特征和聚合特征計算得出；用來控制遺忘特征中的部分信息，用控制學(xué)習特征中的部分信息；最終輸出下一輪的節(jié)點特征 邊更新： 輸入t時刻邊特征集合和邊聚合得到的特征集合 輸出t+1時刻邊特征集合 其中，W、V為可訓(xùn)練的參數(shù)矩陣，b為可訓(xùn)練參數(shù)向量；⊙、σ、Softmax、tanh同節(jié)點更新；為邊eij在t+1輪迭代中的邊特征； 計算兩個門控和以及待傳遞的特征信息通過邊特征和聚合特征計算得來；用控制特征用控制特征最終輸出下一輪的邊特征 整個圖神經(jīng)網(wǎng)絡(luò)每輪迭代，都經(jīng)過一次完整的節(jié)點、邊聚合，以及節(jié)點、邊更新；經(jīng)過m輪迭代，最終輸出的節(jié)點特征集合作為圖神經(jīng)網(wǎng)絡(luò)的輸出； a，LSTM層使用雙向LSTM分別捕獲過去和將來的信息，將兩個結(jié)果進行連接作為最終輸出；其輸入來自于圖神經(jīng)網(wǎng)絡(luò)的輸出，其具體計算過程如下： 首先計算三個門控以及待傳遞的特征信息均由和輸出計算得出； 其中，W、V為可訓(xùn)練的參數(shù)矩陣，b為可訓(xùn)練參數(shù)向量； 門控用來控制遺忘前一單元傳遞過來的記憶特征中的部分信息，門控用來控制學(xué)習特征中的部分信息，生成當前單元記憶特征并將其傳遞到后一單元，如公式9所示： 將使用tanh函數(shù)進行非線性激活后，通過門控遺忘其中部分信息，得到當前單元的輸出并將其傳遞到后一單元，如公式10所示： LSTM中的ht用于獲得距離當前節(jié)點較近的節(jié)點傳遞過來的特征信息，Ct則用于記錄遠程的序列信息； b，CRF層通過CRF對整句文本的標簽序列進行建模，根據(jù)對應(yīng)的觀測序列來預(yù)測對應(yīng)的狀態(tài)序列，標簽序列y的得分sy|x計算如下： 其中：T是編碼層輸出進行線性變換后得到的矩陣，其中的矩陣元素代表當前字xi對應(yīng)標簽為yi時的分數(shù)；Z代表轉(zhuǎn)移矩陣，通過訓(xùn)練進行學(xué)習；其中的矩陣元素代表從前一標簽yi-1轉(zhuǎn)移到當前標簽yi的分數(shù)； 計算所有可能的標簽序列的分數(shù)后使用softmax函數(shù)進行歸一化，得到標簽序列y的條件概率Py|x： 其中：Yx代表所有可能的標簽序列。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人北京工業(yè)大學(xué)，其通訊地址為：100124 北京市朝陽區(qū)平樂園100號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。