[論文レビュー] DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses

Yaxin Li, Wei Jin+2 more|arXiv (Cornell University)|May 13, 2020

Adversarial Robustness in Machine Learning参考文献 34被引用数 78

ひとこと要約

DeepRobust は、10を超える画像攻撃、8つの画像防御、9つのグラフ攻撃、4つのグラフ防御を提供する PyTorch ベースのライブラリで、画像およびグラフ領域にまたがる対向的研究を促進します。

ABSTRACT

DeepRobust is a PyTorch adversarial learning library which aims to build a comprehensive and easy-to-use platform to foster this research field. It currently contains more than 10 attack algorithms and 8 defense algorithms in image domain and 9 attack algorithms and 4 defense algorithms in graph domain, under a variety of deep learning architectures. In this manual, we introduce the main contents of DeepRobust with detailed instructions. The library is kept updated and can be found at https://github.com/DSE-MSU/DeepRobust.

研究の動機と目的

• 画像データとグラフデータの両方にまたがる敵対的攻撃と防御を研究するための、統一された拡張性のあるプラットフォームの必要性を動機づける。
• 体系的な実験を可能にするための代表的な攻撃および防御アルゴリズムの包括的なセットを提供する。
• 迅速な研究反復のために、さまざまなネットワークアーキテクチャおよび標準データセットとの容易な統合を促進する。

提案手法

• 攻撃と防御の実装を、明確に定義された基本クラスと派生アルゴリズムを備えた2つの主要コンポーネント（imageパッケージとgraphパッケージ）に整理する。
• 画像攻撃（LBFGS、FGSM、PGD、CW、OnePixel、DeepFool、BPDA、Universal、Nattack）と防御（敵対的訓練、勾配マスキング、検出）の一式を実装する。
• GCNバックボーン上で、対象型および非対象型のグラフ攻撃と防御を実装し、Cora、Citeseer、Pubmed などのデータセットを用いる。
• 主要な攻撃と防御の数理式の定式化を説明し、制約付き最適化問題や目的関数（例：L2距離、交差エントロピー損失、マックスマージ系基準）を含む。
• ライブラリ内でモデルを訓練、攻撃、防御するための実用的な使用ワークフローと例示スニペットを提供する。
• 再現性のために環境要件とセットアップを文書化して確保する。

実験結果

リサーチクエスチョン

• RQ1 統一された PyTorch ライブラリ内で、画像とグラフの最も代表的な攻撃・防御アルゴリズムは何か？
• RQ2 1つのフレームワークで、画像とグラフの敵対的手法を一貫したインターフェースでサポートするにはどうすればよいか？
• RQ3 標準的な防御戦略（敵対的訓練、勾配マスキング、検出）は、多様なモダリティに適用するとどれほど効果的か？
• RQ4 研究者は中央集権的なライブラリを使ってアーキテクチャとデータセットを横断的に効率的に実験できるか？

主な発見

• このライブラリには現在、複数のアーキテクチャに跨って、画像攻撃が10以上、画像防御が8、グラフ攻撃が9、グラフ防御が4を含む。
• 拡張性と一様な API を支えるベースクラスを備えた2コンポーネント設計（image と graph）を提供する。
• 論文は、DeepRobust 内でのモデルの訓練、攻撃、評価の具体的な実装と使用パターンを概説している。
• 例は、ネットワークの訓練、敵対的サンプルの生成、防御の適用、ロバスト性の評価といった実用的なワークフローを示している。
• DeepRobust は最新のカバレッジと新しいモデルやデータセットの継続的な更新を強調している。