[論文レビュー] Gradient Layer: Enhancing the Convergence of Adversarial Training for Generative Models

Atsushi Nitanda, Taiji Suzuki|arXiv (Cornell University)|Jan 7, 2018

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、関数的勾配を用いた無限次元関数空間における最適化により、生成モデルにおける adversarial training の収束を向上させる、勾配層という新規手法を提案する。生成器を連続関数として扱い、勾配フローの離散化を施すことで、有限次元モデルにおける局所最適解からの脱出が可能となり、収束が速くなり、サンプル品質が向上する。CIFAR-10 および STL-10 データセットにおけるインセプションスコアの向上により、その有効性が実証された。

ABSTRACT

We propose a new technique that boosts the convergence of training generative adversarial networks. Generally, the rate of training deep models reduces severely after multiple iterations. A key reason for this phenomenon is that a deep network is expressed using a highly non-convex finite-dimensional model, and thus the parameter gets stuck in a local optimum. Because of this, methods often suffer not only from degeneration of the convergence speed but also from limitations in the representational power of the trained network. To overcome this issue, we propose an additional layer called the gradient layer to seek a descent direction in an infinite-dimensional space. Because the layer is constructed in the infinite-dimensional space, we are not restricted by the specific model structure of finite-dimensional models. As a result, we can get out of the local optima in finite-dimensional models and move towards the global optimal function more directly. In this paper, this phenomenon is explained from the functional gradient method perspective of the gradient layer. Interestingly, the optimization procedure using the gradient layer naturally constructs the deep structure of the network. Moreover, we demonstrate that this procedure can be regarded as a discretization method of the gradient flow that naturally reduces the objective function. Finally, the method is tested using several numerical experiments, which show its fast convergence.

研究の動機と目的

• 深く生成的モデルにおける adversarial training の収束が遅いこと、局所最適解に陥ることの問題を解決すること。
• GAN における有限次元パラメータ化された生成器の表現的制限を克服すること。
• 無限次元関数空間で動作させることで、局所最適解からの脱出を実現する手法を開発すること。
• 関数的勾配法を用いた収束の高速化について理論的裏付けを提供すること。
• 標準ベンチマーク上での実験的評価を通じて、勾配層の有効性を示すこと。

提案手法

• 有限次元パラメータ化の制約を避けるために、無限次元空間における関数的勾配を計算するための勾配層を導入する。
• 関数的勾配法を用いて、有限次元モデルの接空間に制限されない降下方向を特定する。
• 訓練プロセスを確率測度空間における勾配フローの離散化として扱い、生成された分布と実データ分布の距離を最小化する。
• 勾配層を逐次的に積み重ね、各反復が生成器に新たな層を追加することに対応させることで、自然に深層構造が形成される。
• 最終学習段階において、生成器の出力活性化関数（例：tanh）の下に勾配層を挿入することで、手法を適用する。
• 評価器の学習には ADAM を使用し、勾配層の更新に安定性と収束性を確保するための修正された学習率スケジュールを採用する。

実験結果

リサーチクエスチョン

• RQ1 関数的勾配による無限次元最適化は、GAN の adversarial training における収束を改善できるか？
• RQ2 勾配層手法は、有限次元モデルが制約を受ける局所最適解から脱出できるか？
• RQ3 勾配層は、確率測度空間における勾配フローの離散化と解釈できるか？
• RQ4 勾配層は生成器の表現力とサンプル品質にどのように影響を与えるか？
• RQ5 従来の GAN や WGAN と比較して、本手法はより高速な収束と優れた性能を達成できるか？

主な発見

• CIFAR-10 データセットでは、インセプションスコアが WGAN-GP の 6.32 から勾配層を適用後は 6.80 に向上し、収束の高速化とサンプル品質の向上が示された。
• STL-10 データセットでは、インセプションスコアが WGAN-GP の 7.40 から勾配層を用いることで 7.71 に上昇し、一貫した性能向上が確認された。
• 8ガウス分布や 25ガウス分布といった挑戦的なトイデータセットに対しても、事前学習を行わず、わずか 100 回の生成器反復で高品質なサンプル生成が達成された。
• 最終学習段階において、インセプションスコアが急激に向上したため、生成器の表現力の最適化が効果的に行われたと示唆された。
• 理論的分析により、勾配層が確率測度空間における勾配フローの離散化に対応していることが確認され、整合的な最適化フレームワークが提供された。
• 勾配層を積み重ねることで、自然に深層構造が構築され、各反復が生成器に新たな層を追加することに対応する。