隨著深度學(xué)習(xí)研究的深入，相關(guān)應(yīng)用已經(jīng)在許多領(lǐng)域展現(xiàn)出驚人的表現(xiàn)。一方面，深度學(xué)習(xí)的強(qiáng)大能力著實(shí)吸引著學(xué)術(shù)界和產(chǎn)業(yè)界的眼球。另外一方面，深度學(xué)習(xí)的安全問題也開始引起廣泛地關(guān)注。對(duì)于一個(gè)給定的深度神經(jīng)網(wǎng)絡(luò)，經(jīng)過訓(xùn)練，它可能在具體任務(wù)上（例如圖像識(shí)別）表現(xiàn)出較高的準(zhǔn)確率。但是在原本能夠被正確分類的圖像中引入稍許（人眼不易察覺）擾動(dòng)，神經(jīng)網(wǎng)絡(luò)模型就可能被誤導(dǎo)，從而得出錯(cuò)誤的分類結(jié)果。例如，下圖中最左側(cè)的熊貓圖片本來可以被正確分類，向其中加入一定的擾動(dòng)，結(jié)果會(huì)得到右側(cè)的熊貓圖片。在人眼看來，它仍然是熊貓，但是神經(jīng)網(wǎng)絡(luò)模型卻以相當(dāng)高的置信率將其識(shí)別成了長(zhǎng)臂猿。最右側(cè)這個(gè)經(jīng)過精心調(diào)整的能夠誤導(dǎo)神經(jīng)網(wǎng)絡(luò)模型的圖像就被稱為是惡意樣本（Adversarial Example），或簡(jiǎn)稱AE。

本文主要介紹兩種最基本也最流行的惡意樣本（Adversarial Example）的生成算法，我們將在理解原理的基礎(chǔ)上用Python編程實(shí)現(xiàn)它們。環(huán)境是Ubuntu 18.04，深度學(xué)習(xí)模型以殘差神經(jīng)網(wǎng)絡(luò)ResNet為例。歡迎關(guān)注白馬負(fù)金羈的博客 ，為保證公式、圖表得以正確顯示，強(qiáng)烈建議你從該地址（http://blog.csdn.net/baimafujinji）上查看原版博文。本博客主要關(guān)注方向包括：數(shù)字圖像處理、算法設(shè)計(jì)與分析、數(shù)據(jù)結(jié)構(gòu)、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、統(tǒng)計(jì)分析方法、自然語言處理。
?

---

Fast gradient sign method (FGSM)

我們?cè)谥暗奈恼拢ㄎ恼骆溄樱├镌?jīng)介紹過一些關(guān)