【技術(shù)實現(xiàn)步驟摘要】
本申請涉及深度神經(jīng)網(wǎng)絡(luò)，尤其涉及一種對抗樣本檢測方法、裝置、電子設(shè)備及存儲介質(zhì)。
技術(shù)介紹
1、深度神經(jīng)網(wǎng)絡(luò)(deep?neural?networks，dnn)在各種視覺任務(wù)上取得了顯著的成功。然而，最近的研究表明dnn容易受到對抗性樣本的影響，這些樣本是通過添加人類難以察覺的對抗性擾動產(chǎn)生的。這些對抗性的例子很容易導(dǎo)致dnn在高置信度下做出錯誤的預(yù)測。這些漏洞對dnn在實際應(yīng)用中的安全性構(gòu)成嚴(yán)重威脅，特別是在自動駕駛汽車和醫(yī)療診斷等敏感領(lǐng)域。
2、近年來，人們開發(fā)了許多防御方法，可分為三類:對抗性訓(xùn)練、對抗性凈化和對抗性檢測。對抗性訓(xùn)練致力于通過將對抗樣本納入訓(xùn)練過程來增強(qiáng)模型魯棒性；對抗性凈化旨在通過預(yù)處理輸入樣例來去除對抗性擾動。遺憾的是，對抗性訓(xùn)練和凈化技術(shù)經(jīng)常導(dǎo)致dnn應(yīng)用中性能的下降。相比之下，對抗性檢測提供了更靈活的解決方案。在應(yīng)用dnn之前，通過添加檢測模塊來主動區(qū)分對抗樣本和原始樣本。然而，幾項研究表明，當(dāng)前的對抗樣本檢測方法仍然存在一定的缺陷。
技術(shù)實現(xiàn)思路
1、本申請?zhí)峁┝艘环N對抗樣本檢測方法、裝置、電子設(shè)備及存儲介質(zhì)，解決當(dāng)前的對抗樣本檢測方法仍然存在一定的缺陷的問題。
2、第一方面，本申請?zhí)峁┝艘环N對抗樣本檢測方法，包括：
3、對待測樣本進(jìn)行局部直方圖均衡化處理，得到預(yù)處理后的樣本；
4、提取所述預(yù)處理后的樣本中的高頻信息和低頻信息，基于所述低頻信息確定預(yù)測置信度梯度；
5、將所述高頻信息和所述預(yù)
6、進(jìn)一步地，所述對待測樣本進(jìn)行局部直方圖均衡化處理，得到預(yù)處理后的樣本，包括：
7、將待測樣本劃分為多個預(yù)設(shè)大小的像素區(qū)域，計算每個區(qū)域的灰度直方圖，執(zhí)行直方圖均衡化；
8、基于均衡化的直方圖重新映射每個區(qū)域的像素值，將處理后的區(qū)域合并，得到預(yù)處理后的樣本。
9、進(jìn)一步地，所述提取所述預(yù)處理后的樣本中的高頻信息和低頻信息，包括：
10、利用雙三次插值對所述預(yù)處理后的樣本進(jìn)行預(yù)設(shè)倍數(shù)的降采樣，去除高頻信息，保留低頻信息；
11、利用雙三次插值將降采樣后的樣本以所述預(yù)設(shè)倍數(shù)上采樣回原始大小，減去低頻信息，提取高頻信息。
12、進(jìn)一步地，所述基于所述低頻信息確定預(yù)測置信度梯度，包括：
13、基于預(yù)設(shè)置信度損失函數(shù)計算所述低頻信息的梯度，得到預(yù)測置信度梯度。
14、進(jìn)一步地，所述將所述高頻信息和所述預(yù)測置信度梯度輸入預(yù)設(shè)的檢測網(wǎng)絡(luò)，以確定所述待測樣本是否為對抗樣本，包括：
15、將所述高頻信息和所述預(yù)測置信度梯度輸入到兩個不共享參數(shù)的相同網(wǎng)絡(luò)中；
16、計算來自對偶網(wǎng)絡(luò)的對抗性分?jǐn)?shù)，以確定所述待測樣本是否為對抗樣本。
17、第二方面，本申請?zhí)峁┝艘环N對抗樣本檢測裝置，包括：
18、局部處理模塊，用于對待測樣本進(jìn)行局部直方圖均衡化處理，得到預(yù)處理后的樣本；
19、信息提取模塊，用于提取所述預(yù)處理后的樣本中的高頻信息和低頻信息，基于所述低頻信息確定預(yù)測置信度梯度；
20、對抗檢測模塊，用于將所述高頻信息和所述預(yù)測置信度梯度輸入預(yù)設(shè)的檢測網(wǎng)絡(luò)，以確定所述待測樣本是否為對抗樣本。
21、第三方面，本申請?zhí)峁┝艘环N電子設(shè)備，包括存儲器、處理器以及存儲在存儲器中并可在處理器上運(yùn)行的計算機(jī)程序，處理器執(zhí)行計算機(jī)程序時實現(xiàn)如上所述的對抗樣本檢測方法。
22、第四方面，本申請?zhí)峁┝艘环N計算機(jī)可讀存儲介質(zhì)，計算機(jī)可讀存儲介質(zhì)存儲有計算機(jī)程序，計算機(jī)程序被處理器執(zhí)行時實現(xiàn)如上所述的對抗樣本檢測方法。
23、本申請的上述技術(shù)方案具有如下優(yōu)點(diǎn)：
24、本申請第一方面提供的對抗樣本檢測方法，通過對待測樣本進(jìn)行局部直方圖均衡化處理，可放大對抗性擾動，增強(qiáng)對抗樣本和正常樣本之間的特征差異。通過提取預(yù)處理后的樣本中的高頻信息和低頻信息，可利用高頻信息來區(qū)分對抗性樣本和正常樣本，使用低頻信息生成的預(yù)測置信梯度有更大的收斂性。通過將高頻信息和預(yù)測置信度梯度輸入預(yù)設(shè)的檢測網(wǎng)絡(luò)，以確定待測樣本是否為對抗樣本，提高了對抗樣本檢測的性能。
25、可以理解的是，上述第二方面、第三方面和第四方面的有益效果可以參見上述第一方面中的相關(guān)描述，在此不再贅述。
本文檔來自技高網(wǎng)...【技術(shù)保護(hù)點(diǎn)】
1.一種對抗樣本檢測方法，其特征在于，包括：
2.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述對待測樣本進(jìn)行局部直方圖均衡化處理，得到預(yù)處理后的樣本，包括：
3.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述提取所述預(yù)處理后的樣本中的高頻信息和低頻信息，包括：
4.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述基于所述低頻信息確定預(yù)測置信度梯度，包括：
5.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述將所述高頻信息和所述預(yù)測置信度梯度輸入預(yù)設(shè)的檢測網(wǎng)絡(luò)，以確定所述待測樣本是否為對抗樣本，包括：
6.一種對抗樣本檢測裝置，其特征在于，包括：
7.一種電子設(shè)備，包括存儲器、處理器以及存儲在所述存儲器中并可在所述處理器上運(yùn)行的計算機(jī)程序，其特征在于，所述處理器執(zhí)行所述計算機(jī)程序時實現(xiàn)如權(quán)利要求1至5任一項所述的對抗樣本檢測方法。
8.一種計算機(jī)可讀存儲介質(zhì)，所述計算機(jī)可讀存儲介質(zhì)存儲有計算機(jī)程序，其特征在于，所述計算機(jī)程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至5任一項所述的對抗樣本
...【技術(shù)特征摘要】
1.一種對抗樣本檢測方法，其特征在于，包括：
2.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述對待測樣本進(jìn)行局部直方圖均衡化處理，得到預(yù)處理后的樣本，包括：
3.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述提取所述預(yù)處理后的樣本中的高頻信息和低頻信息，包括：
4.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述基于所述低頻信息確定預(yù)測置信度梯度，包括：
5.如權(quán)利要求1所述的對抗樣本檢測方法，其特征在于，所述將所述高頻信息和所述預(yù)...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：常晨霞，盧云飛，姚紹文，高嵩，
申請(專利權(quán))人：云南民族大學(xué)，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。