買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉上海交通大學(xué)申請的專利面向黑盒模型的表征診斷與解釋、模型比較、訓(xùn)練樣本收集的方法與系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN114462291B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-08發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202111155124.3，技術(shù)領(lǐng)域涉及：G06F30/27；該發(fā)明授權(quán)面向黑盒模型的表征診斷與解釋、模型比較、訓(xùn)練樣本收集的方法與系統(tǒng)是由張拳石設(shè)計研發(fā)完成，并于2021-09-29向國家知識產(chǎn)權(quán)局提交的專利申請。

本面向黑盒模型的表征診斷與解釋、模型比較、訓(xùn)練樣本收集的方法與系統(tǒng)在說明書摘要公布了：本發(fā)明涉及機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，公開了一種面向黑盒模型的表征診斷、模型比較、訓(xùn)練樣本收集的方法與系統(tǒng)，可實現(xiàn)自動解釋黑盒模型的內(nèi)部邏輯，得到表示黑盒模型內(nèi)部邏輯的“與或圖”模型，從而實現(xiàn)面向黑盒模型的表征診斷、模型比較、訓(xùn)練樣本收集。其包括：提供某一黑盒模型；將樣本輸入黑盒模型，樣本包含一定維度的輸入單元；基于黑盒模型的中層輸出特征，對樣本的輸入單元間交互配合的作用進(jìn)行建模，計算輸入單元形成間組合的交互強(qiáng)度，將黑盒模型表示為輸入單元間組合間的“與加關(guān)系”；優(yōu)化交互計算中各輸入單元上的基準(zhǔn)值，使得從黑盒模型得到的“與加關(guān)系”表達(dá)更加簡潔；基于上述關(guān)系建立表達(dá)該黑盒模型內(nèi)部邏輯的“與或圖”模型。

本發(fā)明授權(quán)面向黑盒模型的表征診斷與解釋、模型比較、訓(xùn)練樣本收集的方法與系統(tǒng)在權(quán)利要求書中公布了：1.一種解釋黑盒模型的方法，其特征在于，所述方法包括以下步驟： 1選取模型； 選取所需要解釋的黑盒模型，其中所述黑盒模型包括神經(jīng)網(wǎng)絡(luò)； 2獲取建模所需數(shù)據(jù)： 選取某一樣本輸入所述黑盒模型以此獲得基于所述輸入樣本得到的中層特征輸出或黑盒模型輸出樣本，將所述輸入樣本與所述中層特征輸出或黑盒模型輸出樣本作為建模時的數(shù)據(jù)，其中所述輸入樣本包含W個維度的輸入單元，其中W為≥5的正整數(shù)； 3確定一級primary“與加關(guān)系” 基于所述黑盒模型的中層輸出特征或模型輸出樣本，對所述輸入樣本的輸入單元間的交互配合作用進(jìn)行建模，獲得由所述輸入單元組成的組合，并計算所述輸入單元間組合的交互強(qiáng)度，然后根據(jù)所述交互強(qiáng)度確定所述黑盒模型的輸入單元組成的組合間的一級“與加關(guān)系”；具體的，通過Harsanyidividend指標(biāo)對輸入單元間的交互配合作用進(jìn)行量化，計算輸入單元間組合S內(nèi)部的輸入單元之間交互配合對中層輸出特征或模型輸出的數(shù)值貢獻(xiàn)，記為IS，并將黑盒模型的輸出vN拆分為各輸入單元間組合S的交互作用大小之和，在所述拆分方法中，每個輸入單元間組合S內(nèi)部的交互作用當(dāng)且僅當(dāng)S內(nèi)所有輸入單元均存在時才觸發(fā)，使得輸入單元間組合S內(nèi)的輸入單元形成了“與”的關(guān)系，從而確定黑盒模型中輸入樣本上的輸出vN與輸入單元間的一級“與加關(guān)系”，即將黑盒模型中輸入樣本上的輸出vN表示為輸入單元間的“與加關(guān)系”； 4建立二級secondary“與加關(guān)系” 基于所述步驟3中的所述“與加關(guān)系”，通過優(yōu)化交互計算中各輸入單元上的基準(zhǔn)值，將所述“與加關(guān)系”中關(guān)聯(lián)性強(qiáng)的輸入單元間組合進(jìn)一步結(jié)合，并將非重要輸入單元間組合剔除，從而將所述“與加關(guān)系”表達(dá)的更加簡潔、稀疏；具體的，將所有輸入單元的基準(zhǔn)值構(gòu)成的向量記為b，其中每一維bi表示輸入單元i的基準(zhǔn)值，通過懲罰只產(chǎn)生微小影響或干擾的輸入單元間組合S的交互強(qiáng)度|IS|，優(yōu)化輸入樣本N每一維輸入單元的基準(zhǔn)值bi，使交互強(qiáng)度|IS|較小的輸入單元間組合S的交互強(qiáng)度|IS|趨于0，得到稀疏的輸入單元間交互，從而確定黑盒模型中輸入樣本上的輸出vN與輸入單元間的二級“與加關(guān)系”； 其中，所述稀疏的輸入單元間交互是指，大多數(shù)輸入單元間組合的交互強(qiáng)度|IS|較小，即趨近于0，對網(wǎng)絡(luò)輸出沒有影響；只有少量輸入單元間組合的交互強(qiáng)度|IS|較大，對網(wǎng)絡(luò)輸出有重大影響； 5建立“與或圖”模型 基于步驟4所述的二級“與加關(guān)系”，建立表達(dá)該黑盒模型內(nèi)部邏輯的“與或圖”模型，具體的，所述“與或圖”包含至少三層，由若干節(jié)點(diǎn)與連邊組成，其中，底層的n個葉節(jié)點(diǎn)表示n個輸入單元；中間的若干“與節(jié)點(diǎn)”表示某一輸入單元間組合S內(nèi)部輸入單元之間的“與”關(guān)系,每個“與”節(jié)點(diǎn)被分配一個分?jǐn)?shù)score＝IS，表示該節(jié)點(diǎn)所對應(yīng)的輸入單元間組合的交互對中層輸出特征或模型輸出的數(shù)值貢獻(xiàn)；頂層的根節(jié)點(diǎn)是一個“或節(jié)點(diǎn)”，表示對其所有子節(jié)點(diǎn)分?jǐn)?shù)的加和，即黑盒模型的輸出vN最終表示為所有輸入單元間組合S的交互作用IS的加和； 其中，所述稀疏的輸入單元間交互是指，大多數(shù)輸入單元間組合的交互強(qiáng)度|IS|較小趨近于0，對網(wǎng)絡(luò)輸出沒有影響；只有少量輸入單元間組合的交互強(qiáng)度|IS|較大，對網(wǎng)絡(luò)輸出有重大影響。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人上海交通大學(xué)，其通訊地址為：200240 上海市閔行區(qū)東川路800號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。