買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網獲悉中國工程物理研究院計算機應用研究所申請的專利一種針對聊天大模型服務的可用性評估方法及系統獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN120297424B 。

龍圖騰網通過國家知識產權局官網在2025-08-15發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202510780866.7，技術領域涉及：G06N5/04；該發明授權一種針對聊天大模型服務的可用性評估方法及系統是由劉小壘;李星煜;劉成;張峰;印佳麗;紀守領設計研發完成，并于2025-06-12向國家知識產權局提交的專利申請。

本一種針對聊天大模型服務的可用性評估方法及系統在說明書摘要公布了：本發明公開了一種針對聊天大模型服務的可用性評估方法及系統，屬于人工智能安全和大模型安全技術領域，解決現有技術文本離散性導致的梯度傳導障礙及自回歸輸出內容的不確定性的問題。本發明包括基于各原始輸入樣本和聊天大模型采用梯度與詞塊的映射關系構造海綿樣本測試數據集；基于海綿樣本測試數據集對聊天大模型進行可用性評估。本發明用于對聊天大模型服務的可用性評估。

本發明授權一種針對聊天大模型服務的可用性評估方法及系統在權利要求書中公布了：1.一種針對聊天大模型服務的可用性評估方法，其特征在于，包括如下步驟： 步驟1、基于各原始輸入樣本和聊天大模型采用梯度與詞塊的映射關系構造海綿樣本測試數據集； 步驟2、基于海綿樣本測試數據集對聊天大模型進行可用性評估，對比正常數據集和海綿樣本測試數據集每一項指標具體值的差異來進行可用性評估； 所述步驟1的具體步驟為： 步驟1.1、首先將各原始輸入樣本與隨機初始化的對抗后綴拼接為模型輸入，并基于模型輸入和聊天大模型的詞匯表進行one-hot向量轉換及映射后送入聊天大模型中進行前向推理，得到輸出序列，其中，原始輸入樣本為聊天大模型公開的對話數據集中的用戶輸入，對話數據集包括ShareGPT數據集和Alpaca數據集，對抗后綴包括至少包括一個詞塊； 步驟1.2、根據輸出序列構建融合EOS損失和均勻損失的總損失函數； 步驟1.3、再基于總損失函數通過反向傳播獲得對抗后綴對應的梯度，并利用獲得的梯度采用梯度搜尋的離散文本優化算法獲得對抗后綴的前M個最大的負梯度作為候選對抗后綴； 步驟1.4、將各候選對抗后綴與原始輸入樣本進行拼接后再次輸入到聊天大模型中，得到對應的輸出序列，并根據輸出序列長度評估聊天大模型的開銷； 步驟1.5、若聊天大模型開銷達到最大或者迭代次數達到最大，則停止優化，并將輸出序列長度最大的候選對抗后綴與原始輸入樣本拼接作為最終的海綿測試樣本，否則，選擇輸出序列長度最大的候選對抗后綴更新隨機初始化的對抗后綴，并再次執行步驟1.1； 步驟1.6、基于所有海綿測試樣本構造海綿樣本測試數據集。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人中國工程物理研究院計算機應用研究所，其通訊地址為：621054 四川省綿陽市綿山路64號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。