[論文レビュー] Annealed Generative Adversarial Networks

Arash Mehrjou, Schölkopf, Bernhard+1 more|arXiv (Cornell University)|May 21, 2017

Generative Adversarial Networks and Image Synthesis参考文献 13被引用数 9

ひとこと要約

本稿では、データ分布へ段階的に冷却する仕組みを用いることで、敵対的学習の安定性を高める新しいGAN学習フレームワーク、$\beta$-GANを提案する。生成器をアテンダント空間全体に初期化し、連続的な冷却を適用することで、追加のノイズ注入や複雑なアーキテクチャを用いずに、合成データ、MNIST、CelebAの各データセットにおいてモード崩壊を防ぎ、安定した学習を実現する。

ABSTRACT

We introduce a novel framework for adversarial training where the target distribution is annealed between the uniform distribution and the data distribution. We posited a conjecture that learning under continuous annealing in the nonparametric regime is stable irrespective of the divergence measures in the objective function and proposed an algorithm, dubbed ß-GAN, in corollary. In this framework, the fact that the initial support of the generative network is the whole ambient space combined with annealing are key to balancing the minimax game. In our experiments on synthetic data, MNIST, and CelebA, ß-GAN with a fixed annealing schedule was stable and did not suffer from mode collapse.

研究の動機と目的

• 低次元のデータ多様体とアンバランスなミニマックスゲームが原因で生じる、標準的なGAN学習における不安定性とモード崩壊を解消すること。
• 生成器をアテンダント空間全体にカバーするように初期化することで、敵対的学習を安定化させること。
• ミニマックスゲームの安定性を、発散測度に依存しない形で保つために、均一分布からデータ分布への連続的冷却スケジュールを提案すること。
• 生成器の初期段階での完全サポート性を活用することで、インスタンスノイズの追加や目的関数の変更なしに、安定した学習が可能であることを示すこと。
• 合成データ、MNIST、CelebAにおけるフレームワークの検証を通じて、一貫した性能とモード崩壊の不在を示すこと。

提案手法

• パラメータ$\beta$を導入し、逆温度として、均一分布（$\beta = 0$）からデータ分布（$\beta = \infty$）への補間を実現する。
• 元のジェンセン＝シャノン発散の定式化を用いてGANを学習するが、生成器は初期段階でノイズをアテンダント空間全体の均一分布にマッピングする。
• 固定された冷却スケジュールを用い、訓練中に目標分布を均一分布からデータ分布へ段階的にシフトさせる。
• 生成器が初期段階でアテンダント空間全体を埋め尽くせるように、潜在次元$\text{dim}(z) \geq d$を確保する。これにより、測度ゼロのサポート問題を回避する。
• 均一分布が完全サポートを持つことを利用して、初期段階で強い学習信号を提供し、識別器が生成サンプルを容易に拒否しないようにする。
• MNISTには全結合型アーキテクチャ、CelebAにはDCGANスタイルのアーキテクチャをそれぞれ適用し、バッチ正規化とReLU/LeakyReLU活性化関数を用いる。

実験結果

リサーチクエスチョン

• RQ1 生成器を低次元の潜在分布からではなく、アテンダント空間全体をカバーするように初期化することで、敵対的学習を安定化させることができるか？
• RQ2 均一分布からデータ分布への連続的冷却が、多様なデータ分布にわたってGANにおけるモード崩壊を防げるか？
• RQ3 完全サポートの初期化と冷却を用いることで、発散測度に依存しないミニマックスゲームの安定性が保たれるか？
• RQ4 $\beta$-GANは、インスタンスノイズの追加や目的関数の変更なしに、安定した学習を達成できるか？
• RQ5 冷却プロセスは、時間の経過とともに生成サンプルの品質と多様性にどのように影響を与えるか？

主な発見

• 5または10モードを持つ合成データでは、$\beta$-GANはモード崩壊を示さずにすべてのモードを正しく生成したが、ヴァニラGANは深刻なモード崩壊を示した。
• MNISTでは、$\beta$-GANはすべての$\beta$値において多様で高品質なサンプルを生成し、冷却の過程で生成器が均一ノイズから現実的な数字に進化した。
• CelebAでは、$\beta$-GANは高精細で多様な顔画像を生成し、高い複雑さに対してもモード崩壊を示さず、訓練曲線は本物と偽物の識別器出力が安定していた。
• $\beta$-GANの訓練曲線は、データの複雑さが増しても、本物と偽物の識別器スコアの差が最小限に抑えられ、一貫した安定性と頑健性を示した。
• 生成器にReLUを用いることで、Tanhのような滑らかな非線形関数で観察される「凍結ノイズ」モード崩壊が防がれた。これは、アーキテクチャの選択が訓練安定性に敏感であることを示している。
• 固定された冷却スケジュールを用いることで、$\beta$-GANは安定した学習を達成し、全結合型およびDCGANベースのモデルを含む、さまざまなデータセットとアーキテクチャに対して一貫した結果を示した。