[論文レビュー] Random Directional Attack for Fooling Deep Neural Networks

Wenjian Luo, Chenwang Wu+2 more|arXiv (Cornell University)|Aug 6, 2019

Adversarial Robustness in Machine Learning参考文献 52被引用数 5

ひとこと要約

本稿では、勾配方向以外の有効な攻撃方向を探索するための1ステップ攻撃であるランダム方向攻撃（RDA）を提案する。RDAは最初の選択による勾配上昇法を用い、白ボックスおよびブラックボックス設定の両方で競争力ある性能を達成している。勾配に基づく手法が失敗する場合でも、非勾配方向を特定することで深層ニューラルネットワークを効果的にだますことができ、モデルの内部構造を必要としないブラックボックス攻撃においても高い成功率を維持する。

ABSTRACT

Deep neural networks (DNNs) have been widely used in many fields such as images processing, speech recognition; however, they are vulnerable to adversarial examples, and this is a security issue worthy of attention. Because the training process of DNNs converge the loss by updating the weights along the gradient descent direction, many gradient-based methods attempt to destroy the DNN model by adding perturbations in the gradient direction. Unfortunately, as the model is nonlinear in most cases, the addition of perturbations in the gradient direction does not necessarily increase loss. Thus, we propose a random directed attack (RDA) for generating adversarial examples in this paper. Rather than limiting the gradient direction to generate an attack, RDA searches the attack direction based on hill climbing and uses multiple strategies to avoid local optima that cause attack failure. Compared with state-of-the-art gradient-based methods, the attack performance of RDA is very competitive. Moreover, RDA can attack without any internal knowledge of the model, and its performance under black-box attack is similar to that of the white-box attack in most cases, which is difficult to achieve using existing gradient-based attack methods.

研究の動機と目的

• モデルの非線形性により勾配方向に沿った摂動が損失を増加させない場合に失敗する勾配ベース攻撃の限界を解消すること。
• 勾配方向に依存せずに、効果的な adversarial 例を生成できる1ステップ攻撃手法を開発すること。
• モデルの出力のみを用いることで、内部パラメータの必要がない効果的なブラックボックス攻撃を可能にすること。
• モデルアーキテクチャーや重みが不明な状況において、adversarial 攻撃の転送性とロバスト性を向上させること。

提案手法

• RDAは最初の選択による勾配上昇法を用い、小さな摂動のもとで誤分類確率を増加させる攻撃方向を繰り返し探索する。
• 各反復で、入力次元のランダムなサブセットのみが摂動され、計算コストを削減しながらも探索効率を維持する。
• 攻撃方向が誤分類を成功させる場合にのみ更新され、確率的探索により局所最適解を回避する。
• RDAはモデルの出力確率（クラススコア）をフィードバックとして用いるため、勾配や内部重みにアクセスせずにブラックボックス運用が可能である。
• 本手法は1ステップ攻撃として設計されており、攻撃方向の探索終了後に最終的な摂動を1回のステップで適用する。
• RDAは白ボックスおよびブラックボックス設定の両方で適用可能であり、後者では代替モデルを用いて攻撃方向の初期化を行う。

実験結果

リサーチクエスチョン

• RQ1 勾配方向以外の方向を探索することで、勾配ベース手法を上回る1ステップ攻撃を設計できるか？
• RQ2 勾配上昇法に基づく探索戦略は、深層ニューラルネットワークを効果的にだます非勾配方向を効果的に特定できるか？
• RQ3 RDAはモデル内部情報を必要とせずにブラックボックス設定で高い攻撃成功率を達成できるか？
• RQ4 RDAの性能は、最新の勾配ベース攻撃と比較して、成功率および摂動サイズの観点でどのように異なるか？
• RQ5 非線形DNNにおいて、有効な攻撃方向と勾配方向の間の角度関係はどのようなものか？

主な発見

• MNISTでは、ϵ = 0.1の条件下でRDAは96.21%の攻撃成功率を達成し、FGSM（44.63%）およびL.L.Class（53.47%）を顕著に上回った。
• SVHNでは、ϵ = 0.2の条件下でRDAは100%の成功率を達成し、同じ条件下でMI-FGSM（98.34%）およびBIM（98.28%）を上回った。
• CIFAR-10では、RDAはテストしたすべてのε値で100%の成功率を達成し、比較対象のすべての手法を同等以上に上回った。
• ImageNet-10では、RDAはブラックボックス攻撃においても強力な性能を維持し、ϵ = 0.1の条件下で97.17%の成功率を達成した。これに対してFGSMは54.90%であった。
• ブラックボックス設定において、RDAの性能は白ボックス性能と比較してわずかに低下するのみであり、FGSM や BIM と比べて顕著な低下を示さなかった。
• 有効な攻撃方向と勾配方向の間の角度は大きく（例：1つの例で36.1°）、非勾配方向がしばしばより効果的であることが確認された。