[論文レビュー] Unifying Adversarial Training Algorithms with Flexible Deep Data Gradient Regularization

Alexander G. Ororbia, C. Lee Giles+1 more|arXiv (Cornell University)|Jan 26, 2016

Adversarial Robustness in Machine Learning参考文献 11被引用数 17

ひとこと要約

本稿では、柔軟なL1/L2正則化を用いて深層ニューラルネットワークの勾配を正則化する統一的フレームワークであるDataGradを紹介する。一般化された正則化目的関数を最適化することにより、DataGradは先行する adversarial training 法を包含し、clean および adversarial データの両方において最先端のロバスト性を達成する。特に multi-task learning と組み合わせた場合、古典的な L1/L2 および multi-task 正則化を上回る性能を発揮する。

ABSTRACT

Many previous proposals for adversarial training of deep neural nets have included di- rectly modifying the gradient, training on a mix of original and adversarial examples, using contractive penalties, and approximately optimizing constrained adversarial ob- jective functions. In this paper, we show these proposals are actually all instances of optimizing a general, regularized objective we call DataGrad. Our proposed DataGrad framework, which can be viewed as a deep extension of the layerwise contractive au- toencoder penalty, cleanly simplifies prior work and easily allows extensions such as adversarial training with multi-task cues. In our experiments, we find that the deep gra- dient regularization of DataGrad (which also has L1 and L2 flavors of regularization) outperforms alternative forms of regularization, including classical L1, L2, and multi- task, both on the original dataset as well as on adversarial sets. Furthermore, we find that combining multi-task optimization with DataGrad adversarial training results in the most robust performance.

研究の動機と目的

• 多様な adversarial training アルゴリズムを一貫した枠組みで統合すること。
• adversarial パーティクルの影響に対して堅牢な深層ニューラルネットワークを訓練する課題に対処すること。
• 深層勾配正則化を最適化するための効率的で back-propagation と互換性のある手法を提供すること。
• 深層勾配正則化が標準的な L1/L2 および multi-task アプローチを上回り、一般化性能とロバスト性を向上させることを示すこと。

提案手法

• 主損失と入力データに対する損失の深層勾配に適用される正則化子の重み付き和として定義される一般化された正則化目的関数、DataGrad を提案する。
• バックプロパゲーションを用いて、ネットワーク重みに関する正則化目的関数の勾配を計算し、エンドツーエンドの学習を可能にする。
• L1 および L2 ノルムを入力データに関する損失の深層勾配に正則化子として用い、柔軟で堅牢な最適化を可能にする。
• 主タスクと補助タスクの両方の勾配に正則化子を適用することで、multi-task learning へのフレームワークの拡張を行う。
• 近似を用いない決定的で微分可能なアルゴリズムを導出し、深層勾配ペナルティによる学習を実現する。
• 勾配に基づく摂動を用いて adversarial な例を生成し、その摂動に対してロバストであるようにモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 勾配正則化に基づいて、多様な adversarial training アプローチを統一するフレームワークを開発できるか？
• RQ2 clean および adversarial データにおけるロバスト性の観点から、深層勾配正則化は古典的な L1/L2 および multi-task 正則化と比べてどのように異なるか？
• RQ3 adversarial training における multi-task learning と deep gradient regularization を組み合わせた場合の影響は何か？
• RQ4 提案された DataGrad フレームワークは、近似を用いずに標準的な back-propagation を用いて効率的に最適化可能か？
• RQ5 柔軟な勾配正則化の使用は、深層ニューラルネットワークの一般化性能とロバスト性を向上させるか？

主な発見

• L2 正則化を用いた DataGrad（DGL2）は、古典的な L2 および L1 正則化を上回り、強い adversarial ノイズ下で clean MNIST データに対して 98.83% のテスト精度を達成した。
• λ=0.1 および φ=0.1 の multi-task DataGrad-L1 変種（MT-DGL1）は、clean データで 99.03%、adversarial データで 98.12% の精度を達成し、標準的な multi-task 学習を著しく上回った。
• multi-task learning と DataGrad 正則化を組み合わせることで最も堅牢な性能が得られ、MT-DGL1 は φ=0.1 のノイズ下で adversarial 例に対して 98.90% の精度を達成した。
• λ=0.01 および φ=0.1 の DataGrad-L2 は、φ=0.05 のノイズ下で adversarial データに対して 97.66% の精度を達成し、他のすべての手法を上回るロバスト性を示した。
• 本稿のフレームワークは、Miyato らや Huang らの先行研究を一般化しており、それらが統一的 DataGrad 目的関数の特別なケースであることを示した。
• アブレーションスタディにより、特に高強度の adversarial 攻撃下でも、深層勾配正則化が標準的な L1/L2 および multi-task 正則化よりも効果的であることが確認された。