大連理工大學劉晗獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉大連理工大學申請的專利一種基于分數的貼紙對抗攻擊方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115424098B 。
龍圖騰網通過國家知識產權局官網在2025-08-15發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202211072569.X,技術領域涉及:G06V10/776;該發明授權一種基于分數的貼紙對抗攻擊方法是由劉晗;徐曉明;張曉彤;張憲超設計研發完成,并于2022-09-02向國家知識產權局提交的專利申請。
本一種基于分數的貼紙對抗攻擊方法在說明書摘要公布了:本發明屬于深度學習的對抗樣本領域,提出了一種基于分數的貼紙對抗攻擊方法,包括任務抽象和生成過程;任務抽象是將具體的攻擊任務抽象為一個目標函數,其中對抗擾動作為輸入,通過不斷降低優化目標函數的值,獲得最優值時對應的擾動,生成對抗樣本;生成過程是在黑盒設定條件下不斷降低目標函數值的過程,即為優化算法。通過本發明所提出的方法,具有高查詢效率和高攻擊成功率的特點;生成的對抗樣本,攻擊的成功率高,質量好,不易被所攻擊的模型發現。
本發明授權一種基于分數的貼紙對抗攻擊方法在權利要求書中公布了:1.一種基于分數的貼紙對抗攻擊方法,其特征在于,該基于分數的貼紙對抗攻擊算法包括任務抽象和生成過程;任務抽象是將具體的攻擊任務抽象為一個目標函數,其中對抗擾動作為輸入,通過不斷降低優化目標函數的值,獲得最優值時對應的擾動,生成對抗樣本;生成過程是在黑盒設定條件下不斷降低目標函數值的過程,即為優化算法;具體步驟如下: 1任務抽象 輸入一張數字原始圖片x0和所要攻擊的目標分類模型f·至目標函數;輸入數字原始圖片x0的數字矩陣至目標分類模型f·,輸出該數字原始圖片x0所對應的各類分類概率向量P,取各類分類概率向量P中數值最大的值下標所對應的類別作為分類最終結果; 針對不同的攻擊需求,分別為有目標攻擊和無目標攻擊,分別抽象為兩個目標函數;有目標攻擊的內容為,生成對抗樣本使目標分類模型誤判;無目標攻擊的內容為,生成對抗樣本并使目標模型對其分類為指定類; 1.1無目標攻擊的目標函數如下: 其中,δ為對抗擾動,Pt為數字原始圖片x0所對應的真實類的分類概率;P_{dodg}為數字原始圖片像x0分類為非原本真實類t的概率; 1.2有目標攻擊 有目標攻擊的目標函數根據無目標攻擊目標公式變形得到,如下: 其中,δ為對抗擾動,Pi為數字原始圖片x0被分為目標類別i的概率; P_{imper}為數字原始圖片像x0分類為非目標類i的概率; 在有目標攻擊中,當數字原始圖片附加對抗擾動后被分類為目標類別的分數不是最大時,損失值為正值;當目標類別的分類分數為最大時,損失值為負值,代表成功生成目標攻擊對抗樣本; 2生成過程 針對不同的攻擊任務使用不同的目標函數; 2.1對抗樣本的生成; 不訪問所攻擊的分類模型內部信息,通過估算梯度不斷降低目標函數的值并調整對抗擾動以生成對抗樣本;添加到數字原始圖片中的擾動向量表現為圖片上的一個黑色矩形塊,并在后續迭代計算過程中不斷縮小其大小和顏色以提高對抗樣本質量;計算步驟如下: 初始化各參數:對應攻擊任務時的目標函數;數字原始圖片x0;令對抗擾動δ為與初始樣本點同維的0向量;無目標攻擊任務時選取真實分類類別t;有目標攻擊任務時選取目標類別i; 通過如下公式估算目標函數公式loss在點δk處的梯度: 其中,k為迭代次數,d為圖片維度,Q為查詢次數,v為微小步長,uj,j=1…Q為彼此正交的單位向量; 得到第δk處的梯度,綜合歷史過程的梯度信息計算基礎擾動向量δ′: 其中,k為迭代次數,β為協調歷史梯度信息和本次迭代估計的梯度信息的參數; 該基礎擾動向量結合了歷史迭代過程中的梯度信息,使δ′進一步接近δk處的真實梯度; 基礎擾動向量δ′是與數字原始圖片同維的向量,將基礎擾動向量轉換為與數字原始圖片相對應的RGB表示形式;通過三重積分法計算該三維矩陣的數值重心: 其中,x',y',z'是數字原始圖片的重心,x,y,z分別是數字原始圖片在寬度、高度、通道維度上的下標;W是數字原始圖片的寬,H是數字原始圖片的高,C是數字原始圖片的通道數; 以δ′的數值重心為中心運用Anchorgenerate算法生成一組形狀不同的矩形框,作為擾動向量的待選形狀; 其中,Anchorgenerate算法為,在預先給定的基礎參數上,進行變換并作為生成矩形的長和寬; 設變換比例為ratio,基礎參數為ρ,在其上變換而來的長和寬為: 其中,h″,w″為生成矩形框的長和寬;ratio和ρ為超參數; 每一個基礎參數ρi都會生成一組長和寬,對應著兩個長方形,并且將ρi直接作為邊長對應一個正方形;最終生成矩形候選集; 根據特征圖的重心即三維矩陣的數值重心和矩形候選集,有順序的從面積最小的矩形框開始,將矩形框的顏色設定為黑色并將其中心對準基礎擾動向量δ′的重心附加到原數字原始圖片對應位置上去生成貼紙,直至找到面積最小且使目標分類模型發生誤判的貼紙為止;當不滿足迭代條件時,以基礎擾動向量作為下一次迭代的初始化繼續計算;當滿足迭代條件,輸出歷史過程中貼紙面積最小的對抗樣本。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人大連理工大學,其通訊地址為:116024 遼寧省大連市甘井子區凌工路2號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。