[論文レビュー] Improving Generalization and Stability of Generative Adversarial Networks

Hoang Thanh-Tung, Truyen Tran+1 more|arXiv (Cornell University)|Feb 11, 2019

Generative Adversarial Networks and Image Synthesis被引用数 82

ひとこと要約

本論文は離散データにおけるGANの一般化を分析し、経験的識別子を理論的最適値へと押し上げる零中心勾配ペナルティ（0-GP）を提案して、一般化性・安定性・モード崩壊への頑健性を改善する。

ABSTRACT

Generative Adversarial Networks (GANs) are one of the most popular tools for learning complex high dimensional distributions. However, generalization properties of GANs have not been well understood. In this paper, we analyze the generalization of GANs in practical settings. We show that discriminators trained on discrete datasets with the original GAN loss have poor generalization capability and do not approximate the theoretically optimal discriminator. We propose a zero-centered gradient penalty for improving the generalization of the discriminator by pushing it toward the optimal discriminator. The penalty guarantees the generalization and convergence of GANs. Experiments on synthetic and large scale datasets verify our theoretical analysis.

研究の動機と目的

• Show that discriminators trained with the original GAN loss have poor generalization and can lead the generator to mode collapse.
• 識別子の一般化性とGANの収束を改善するための零中心勾配ペナルティ（0-GP）を提案する。
• Demonstrate that 0-GP distributes discriminator capacity to prevent mode collapse and enhances robustness across hyperparameters, optimizers, and architectures.
• 合成データおよび大規模データセットに対する理論的および経験的検証を提供する。

提案手法

• Introduce 0-GP: a penalty that minimizes the gradient norm of the discriminator along the line between real and fake samples.
• 0-GPを導入する：実データと偽データの間の直線上で識別子の勾配ノルムを最小化するペナルティ。
• Compare 0-GP with 1-GP and 0-GP-sample and argue that 0-GP better pushes the empirical discriminator toward the theoretically optimal D*.
• 0-GPを1-GPおよび0-GP-sampleと比較し、0-GPが経験的識別子を理論的に最適なD*へより効果的に押し上げると主張する。
• Show that the empirically optimal discriminator hat{D}* does not approximate the theoretically optimal D*, motivating the penalty.
• 経験的最適識別子 hat{D}* が理論的に最適な D* を近似しないことを示し、このペナルティの動機づけとなる。
• Formulate the GAN objective with 0-GP as L^{0-GP} = L - lambda E_{tilde{x}}[||grad D_{tilde{x}}||^2].
• 0-GPを用いたGAN目的関数を L^{0-GP} = L - lambda E_{tilde{x}}[||grad D_{tilde{x}}||^2] と定式化する。
• Argue that 0-GP helps equalize discriminator capacity across data regions and reduces mode collapse.
• 0-GPはデータ領域間で識別子の容量を均等化し、モード崩壊を低減することを主張する。
• Provide convergence and generalization insights, and relate to TTUR and gradient exploding analyses.
• 収束と一般化の洞察を提供し、TTURおよび勾配発散解析と関連づける。

実験結果

リサーチクエスチョン

• RQ1 Does the original GAN loss lead to poor generalization of the discriminator on discrete datasets?
• RQ2 元のGAN損失は離散データセットにおいて識別子の一般化性を低下させるのか。
• RQ3 Can a zero-centered gradient penalty (0-GP) push empirical discriminators toward the theoretically optimal discriminator and improve GAN convergence?
• RQ4 零中心勾配ペナルティ（0-GP）は経験的識別子を理論的に最適な識別子へ押し上げ、GANの収束を改善できるか。
• RQ5 Does 0-GP reduce mode collapse and improve robustness to hyperparameter changes and architectural choices?
• RQ6 0-GPはモード崩壊を減らし、ハイパーパラメータの変更やアーキテクチャの選択に対する頑健性を向上させるか。

主な発見

• Discriminators trained with the original GAN loss generalize poorly and overfit to mislabeled training data, hindering the generator.
• 元のGAN損失で訓練された識別子は一般化性が乏しく、誤ラベルの訓練データに過適合し、生成器の妨げとなる。
• The original GAN objective encourages gradient exploding in the discriminator and can lead to mode collapse in the generator.
• 元のGAN目的は識別器での勾配爆発を促進し、生成器のモード崩壊につながる可能性がある。
• 0-GP pushes the discriminator toward the theoretically optimal D*, improving generalization and convergence.
• 0-GPは識別器を理論的な最適D*へと押し、一般化と収束を改善する。
• 0-GP distributes discriminator capacity across regions, reducing mode collapse and yielding more robust performance across hyperparameters and architectures.
• 0-GPは領域全体に識別器の容量を分散させ、モード崩壊を抑制し、ハイパーパラメータやアーキテクチャ間でより頑健な性能をもたらす。
• Experiments on synthetic data, MNIST, and ImageNet show that GAN-0-GP outperforms baselines and is more robust to training settings.
• 合成データ、MNIST、ImageNetでの実験は、GAN-0-GPがベースラインを上回り、訓練設定に対してより頑健であることを示す。