[論文レビュー] Stabilizing Adversarial Nets With Prediction Methods

Abhay Kumar Yadav, Sohil Shah+3 more|arXiv (Cornell University)|May 20, 2017

Adversarial Robustness in Machine Learning被引用数 10

ひとこと要約

本稿では、訓練中に生成器の将来のパラメータ更新を予測することによって、敵対的ニューラルネットワークの安定化手法を提案する。生成器の次回更新前の重みを予測することで、識別器の更新を安定化させ、学習率を大きくしても安定し、ネットワークの崩壊を防ぐ。合成データおよび実世界のデータセットにおいて、標準GANおよびアンロールドGANを上回るモードカバレッジとインセプションスコアを示した。

ABSTRACT

Adversarial neural networks solve many important problems in data science, but are notoriously difficult to train. These difficulties come from the fact that optimal weights for adversarial nets correspond to saddle points, and not minimizers, of the loss function. The alternating stochastic gradient methods typically used for such problems do not reliably converge to saddle points, and when convergence does happen it is often highly sensitive to learning rates. We propose a simple modification of stochastic gradient descent that stabilizes adversarial networks. We show, both in theory and practice, that the proposed method reliably converges to saddle points, and is stable with a wider range of training parameters than a non-prediction method. This makes adversarial networks less likely to "collapse," and enables faster training with larger learning rates.

研究の動機と目的

• 鞍点最適化に起因する敵対的ネットワークの訓練における不安定性および頻繁な崩壊を解消すること。
• 交互勾配降下/上昇プロセスの安定化により、敵対的訓練における収束の信頼性を向上させること。
• 損失のランドスケープを不安定にしない範囲で、より大きな学習率を用いた高速な訓練を可能とすること。
• 特に学習率の選定に関して、ハイパーパramータチューニングへの感受性を低減すること。
• 特に低バッチサイズおよび高モード数の状況下で、生成モデルのモードカバレッジを向上させること。

提案手法

• 更新方向におけるモーメンタムの定数性を仮定し、将来の生成器重み $\bar{u}^{k+1}$ を $u^{k+1} + (u^{k+1} - u^k)$ として予測するステップを導入する。
• 標準的な交互SGDを修正し、現在の $u^{k+1}$ の代わりに予測された生成器重み $\bar{u}^{k+1}$ を用いて識別器の更新を計算する。
• Adam最適化法フレームワーク内に予測ステップを適用し、モーメンタムと適応的学習率を保持する。
• 標準的なGAN目的関数 $\min_u \max_v \mathcal{L}(u,v)$ を維持するが、生成器の軌道における予測的アンテナスを用いて訓練を安定化させる。
• 本手法は汎用的であり、最小限のコード変更で既存の訓練パイプラインに統合可能である。
• 理論的分析により、弱い仮定の下で、鞍点問題のクラスに対して漸近的安定性が示された。

実験結果

リサーチクエスチョン

• RQ1 単純な予測ステップが敵対的ネットワーク訓練の安定性を向上させ得るか？
• RQ2 将来の生成器重みを予測することで、学習率選定への感受性が低下するか？
• RQ3 提案手法は、特に低バッチサイズ下でもGANのモード崩壊を防止できるか？
• RQ4 予測手法は、アンロールドGANおよび標準GANと比較して、モードカバレッジおよびインセプションスコアで優れているか？
• RQ5 予測手法により、より大きな学習率を用いた高速な収束が可能になるか？

主な発見

• 予測手法により、GANの訓練が安定化し、大きな学習率を用いても急激な損失の崩壊が防がれた。
• 8つのガウス分布からなる2次元のトピックデータセットにおいて、予測手法はすべてのモードを完全に回復したが、標準GANはすべてのモードをカバーできなかった。
• 100モードの円形ガウス混合分布において、予測手法は標準GANおよびアンロールドGANを上回るモードカバレッジを達成した。特にバッチサイズが小さい（64）状況で顕著であった。
• CIFAR-10において、予測手法は複数の学習率（$0.0002$ から $0.0008$）において安定した訓練と高いインセプションスコアを維持し、標準GANおよびアンロールドGANを上回った。
• 128×128解像度のImageNetにおいて、予測手法はベースラインのACGANを上回る高く安定したインセプションスコアを、訓練エポックにわたり維持した。
• 本手法により、$\beta_1 = 0.5$ および学習率が $0.0008$ に達する範囲でも安定した訓練が可能となったが、これは標準GANでは通常失敗する条件であった。