[論文レビュー] Probabilistic Generative Adversarial Networks

Hamid Eghbal-zadeh, Gerhard Widmer|arXiv (Cornell University)|Aug 6, 2017

Generative Adversarial Networks and Image Synthesis参考文献 4被引用数 5

ひとこと要約

この論文は、生成モデルの訓練を可能性に基づいて行えるようにするため、ガウス混合モデル（GMM）を識別器に統合したGANの変種、確率的生成対抗ネットワーク（PGAN）を提案する。従来の分類損失の代わりにGMMの尤度を最適化することで、PGANは訓練の安定性が向上し、画像品質と相関する意味のある尤度スコアを得られ、モード崩壊や勾配飽和の影響を軽減する。

ABSTRACT

We introduce the Probabilistic Generative Adversarial Network (PGAN), a new GAN variant based on a new kind of objective function. The central idea is to integrate a probabilistic model (a Gaussian Mixture Model, in our case) into the GAN framework which supports a new kind of loss function (based on likelihood rather than classification loss), and at the same time gives a meaningful measure of the quality of the outputs generated by the network. Experiments with MNIST show that the model learns to generate realistic images, and at the same time computes likelihoods that are correlated with the quality of the generated images. We show that PGAN is better able to cope with instability problems that are usually observed in the GAN training procedure. We investigate this from three aspects: the probability landscape of the discriminator, gradients of the generator, and the perfect discriminator problem.

研究の動機と目的

• GAN出力品質を評価するための信頼性のある定量的指標が不足している問題に対処すること。現在は主に主観的な視覚的検査に依存している。
• 特にモード崩壊、勾配消失、完璧な識別器問題といった問題を含む、GANにおける訓練の不安定性を克服すること。
• 生成画像の品質と相関するガウス尤度に基づく確率的損失関数を導入し、安定した最適化を可能にすること。
• 識別器の目的を偽物画像の分類から離れ、代わりにGMMを用いて実データ分布をモデル化することで、訓練の頑健性を向上させること。
• 生成器の停止時に勾配を小さく制御するメカニズムを提供し、飽和を防ぎ、訓練中に回復を可能にする。

提案手法

• 実データの埋め込み空間における分布をモデル化するために、識別器にガウス混合モデル（GMM）を統合する。
• 従来の二値交差エントロピー損失や最小二乗分類損失の代わりに、GMMの尤度スコアを生成器および識別器の主な損失関数として使用する。
• 実データの埋め込みにフィットしたGMMにおける偽物埋め込みの尤度を最大化するように生成器を訓練し、特徴空間における現実的分布を促進する。
• 勾配のオン/オフメカニズムを実装する：生成器が改善しなくなった場合、識別器は小さな、分散の小さい勾配を出力し、生成器の飽和を防ぐ。
• ArjovskyとBottou（2017）の手法を応用し、勾配統計を分析して訓練中の不安定要因を特定する。
• PGANをLSGANおよびWGANと比較し、勾配ノルム、尤度、およびボトルネック層における実データと偽物埋め込みのヒストグラム分析を実施する。

実験結果

リサーチクエスチョン

• RQ1 GMMから導出された尤度ベースの損失関数は、標準的な分類ベースの目的関数と比較して、GANの訓練安定性を向上させることができるか？
• RQ2 GMM尤度は知覚的画像品質と相関するか？ すなわち、GAN評価のための信頼性のある定量的指標として有効か？
• RQ3 完璧な識別器問題（近似的に完璧な識別により勾長が消失する現象）に対して、PGANはどのように対処するか？
• RQ4 生成器が一時的に停止している間、生成器および識別器の勾配はどのように振る舞うか？
• RQ5 PGANは、一方のネットワークが支配的になる不安定な訓練モードから回復できるか？ また、ベースラインGANと比較してその挙動はいかがなっているか？

主な発見

• PGANの尤度スコアは、生成画像の品質と強く相関しており、GAN性能評価のための信頼性のある定量的指標を提供する。
• 訓練中に生成器がブロックされ、識別器が支配的になると、生成器の勾配は小さく、分散が小さい状態になる。これは、安定したオン/オフメカニズムが機能していることを示している。
• 生成器の更新が再開されると、勾配ノルムは通常のスケールに戻る。これは、モデルが停滞状態から回復できることを示している。
• GMMベースの識別器は、ガウス尤度の連続的かつ重複する性質のおかげで、完璧な識別器になる可能性が低く、勾長消失のリスクが軽減される。
• ボトルネック活性化のヒストグラムから、PGANの偽物埋め込みは実データ分布の尾部に広がっており、完全な分離が困難であることがわかる。これに対してLSGANでは鋭いピークが現れ、近似的に完全な識別が可能である。
• GMMの密度推定のおかげで、潜在空間における多様なデータモードのカバレッジが促進されるため、PGANはモード欠落に対してより頑健である。