[論文レビュー] Improved generator objectives for GANs

Ben Poole, Alexander A. Alemi+2 more|arXiv (Cornell University)|Dec 8, 2016

Generative Adversarial Networks and Image Synthesis参考文献 13被引用数 52

ひとこと要約

この論文は、GANの訓練を交互に密度比推定と発散最小化とみなす再解釈を行い、標準GAN生成器の目的関数が逆KLに類似したモード探索型発散を標的としていることを明らかにした。これは、劣悪なサンプル多様性が生じる理由を説明する。本研究では、任意のf-発散を直接最小化する新しい生成器目的関数の族を提案し、サンプル品質と多様性の間で制御可能なトレードオフを実現した。実験結果では、品質を損なわずCIFAR-10で多様性が向上していることが示された。

ABSTRACT

We present a framework to understand GAN training as alternating density ratio estimation and approximate divergence minimization. This provides an interpretation for the mismatched GAN generator and discriminator objectives often used in practice, and explains the problem of poor sample diversity. We also derive a family of generator objectives that target arbitrary $f$-divergences without minimizing a lower bound, and use them to train generative image models that target either improved sample quality or greater sample diversity.

研究の動機と目的

• 実際の訓練で一般的に使われる生成器と識別器の目的関数の不一致を説明すること、特にそれがなぜサンプル多様性に悪影響を及えるのかを明らかにすること。
• 実用的なGAN訓練目的関数がモード探索型発散を標的にしている理論的枠組みを提供すること。
• 任意のf-発散を直接最小化する新しい生成器目的関数の族を導出することにより、サンプル多様性と品質の制御を可能にすること。
• これらの新しい目的関数がCIFAR-10でサンプル多様性を向上させつつ品質を維持または向上させることを実験的に検証すること。
• 下界最小化に依存せず、標的発散最適化が可能な、標準GAN生成器目的関数の原理的代替案を提示すること。

提案手法

• GANの訓練を、密度比推定とf-発散最小化の交互ステップとして再解釈し、データ分布とモデル分布の間の特定のf-発散を最適化するプロセスとして定式化する。
• 生成器目的関数 $\mathcal{G}_{\text{ALT}}$ を導出する。これは、識別器出力の期待値負の項を最小化するもので、逆KLに類似したモード探索型発散の最小化に対応する。
• 発散関数のFenchel共役を用いて、適切な生成器目的関数を選択することで、任意のf-発散を標的にする一般化フレームワークを導入する。
• すべての実験で同一の識別器目的関数（標準GAN）を用い、生成器目的関数のみを変更することで、その影響がサンプル多様性と品質に与える要因を明確に分離する。
• α-発散（αをパrameterとする）の族を用いて、モードカバレッジとモード探索のトレードオフを体系的に調査する。
• 識別器は標準GAN目的関数に従い、生成器は異なるf-発散目的関数に従って訓練する。同じアーキテクチャとハイパーパrameterを用いてCIFAR-10で生成モデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 標準GANは、高品質な画像を生成するにもかかわらず、なぜサンプルの多様性が低いのか？
• RQ2 実用的なGAN生成器目的関数が実際に最小化している発散は何か？ そして、理論的に正当化された目的関数とはどのように異なるのか？
• RQ3 下界最小化に依存せず、任意のf-発散を直接最小化する生成器目的関数を設計できるか？
• RQ4 異なるf-発散の標的が、GAN生成画像における品質と多様性のトレードオフにどのように影響するか？
• RQ5 生成器目的関数を変更することで、品質を損なわず多様性を向上させられるか？

主な発見

• 標準GAN生成器目的関数（$\mathcal{G}_{\text{ALT}}$）は、逆KLに類似したモード探索型発散を最小化しており、実際の訓練で頻繁に発生するモード欠落の理由を説明できる。
• 生成器目的関数を通じて、二乗ヘルンベルガー発散やKL発散といったよりモードカバレッジを重視する発散を標的にすることで、CIFAR-10で顕著な多様性向上が得られ、クラスカバレッジや色カバレッジの観点からも裏付けられた。
• 極めてモード探索型の発散（例：α = -3）に対しても、サンプル品質は高いままであるため、モード探索が必ずしも視覚的品質を低下させることを意味しない。
• 提案された生成器目的関数により、多様性と品質の滑らかなトレードオフが実現可能であり、よりモードカバレッジを重視する発散を標的にしても、品質に顕著な劣化は認められなかった。
• 標準GAN目的関数に従って訓練された識別器は、すべての生成器目的関数に対して一貫して高品質なサンプルを生成しており、多様性の主な要因が生成器目的関数であることが確認された。
• 視覚的比較では、モードカバレッジ型の目的関数（例：α = 0.5、KL）はより多様でクラスバランスの取れたサンプルを生成する一方、モード探索型の目的関数（例：α = -3）は緑や茶色といった支配的クラスを過剰に表現していた。