[論文レビュー] Stabilizing Training of Generative Adversarial Networks through Regularization

Kevin A. Roth, Aurélien Lucchi+2 more|arXiv (Cornell University)|May 25, 2017

Generative Adversarial Networks and Image Synthesis参考文献 27被引用数 204

ひとこと要約

本論文は、f-GANの判別器に対するノイズ誘起正則化を導入し、GAN訓練を安定化させる。次元のミススペックを解消し、アーキテクチャを問わずサンプル品質を向上させる。

ABSTRACT

Deep generative models based on Generative Adversarial Networks (GANs) have demonstrated impressive sample quality but in order to work they require a careful choice of architecture, parameter initialization, and selection of hyper-parameters. This fragility is in part due to a dimensional mismatch or non-overlapping support between the model distribution and the data distribution, causing their density ratio and the associated f-divergence to be undefined. We overcome this fundamental limitation and propose a new regularization approach with low computational cost that yields a stable GAN training procedure. We demonstrate the effectiveness of this regularizer across several architectures trained on common benchmark image generation tasks. Our regularization turns GAN models into reliable building blocks for deep learning.

研究の動機と目的

• データとモデル分布間の次元ミスマッチによって引き起こされるGAN訓練の不安定性を動機づけ、対処する。
• 定義された堅牢な f-GAN objective をもたらすノイズベースの正則化フレームワークを導入する。
• さまざまなGANアーキテクチャとデータセットで訓練を安定化させる効率的で実装可能な正則化子を提供する。
• 複数のモデルとベンチマークにわたって安定性とサンプル品質を評価する。

提案手法

• データをガウスノイズと畳み込み、滑らかな識別子を得ることで、f-GANs のノイズ畳み込み正則化を導出する。
• 得られた正則化対象の目的関数を勾配ノルムペナルティで近似し、f-合成関数の二階導関数によって重みづけされた勾配の二乗を用いる。
• Jensen-Shannon GANs に特化した正則化子を導出し、識別器およびそのロジットに対する勾配ノルムペナルティを生み出し、バックプロパゲーションで計算可能とする。
• 正則化強度 gamma のアニーリングスキームを提案し、初期の安定性と後半の性能のバランスを取る。
• 正則化 JS-GAN を識別器勾配ペナルティと生成器更新を含む Algorithm 1 を提供する。

実験結果

リサーチクエスチョン

• RQ1 データ分布とモデル分布のサポートが非重複している場合や次元ミスマッチがある場合に、識別器にノイズ誘起正則化を追加すると訓練を安定化できるか？
• RQ2 提案された正則化子は、さまざまなGANアーキテクチャとデータセットで安定性、収束性、サンプル品質にどのように影響するか？
• RQ3 正則化強度のアニーリングが訓練ダイナミクスと最終的な生成サンプル品質にどのような影響を与えるか？
• RQ4 入力ノイズを明示的に加えるのと比較して、安定性とサンプル品質の点で正則化はどう違うか？
• RQ5 クロステストは、正則化済み GAN が未正則化モデルより自分の生成データを識別する能力を一般化させるか？

主な発見

• 正則化は CelebA, CIFAR-10, LSUN bedrooms など、幅広いアーキテクチャとデータセットで GAN の訓練を安定化させる。
• 正則化された GAN は、挑戦的な次元ミススペックシフィケーションの状況でも崩壊なしにほぼ無期限に訓練できる。
• 正則化強度 gamma のアニーリングは訓練初期の安定性を改善し、gamma が小さくなっても非零のとき有益である。
• 正則化は未正則化モデルより視覚的品質の高いサンプルを生み出し、実験全体で入力ノイズを明示的に加えるより安定性と品質において上回る。
• クロステストは正則化モデルの識別器が自分の生成データを識別する能力を一般化させ、一般化特性の改善を示している。