[論文レビュー] Entropic GANs meet VAEs: A Statistical Approach to Compute Sample Likelihoods in GANs

Yogesh Balaji, Hamed Hassani+2 more|arXiv (Cornell University)|Oct 9, 2018

Generative Adversarial Networks and Image Synthesis参考文献 32被引用数 10

ひとこと要約

この論文は、生成モデルの出力に基づく明示的な確率モデルと損失関数を導入することで、生成対抗ネットワーク（GANs）におけるサンプル尤度の計算を可能にする統計的枠組みを確立する。エントロピー正則化を施したGANsが平均尤度の変分下界を最大化することを証明し、GANsとVAEsを共通の統計的原則の下に統合し、GANsにおける尤度に基づく推論を可能にする。

ABSTRACT

Building on the success of deep learning, two modern approaches to learn a probability model from the data are Generative Adversarial Networks (GANs) and Variational AutoEncoders (VAEs). VAEs consider an explicit probability model for the data and compute a generative distribution by maximizing a variational lower-bound on the log-likelihood function. GANs, however, compute a generative model by minimizing a distance between observed and generated probability distributions without considering an explicit model for the observed data. The lack of having explicit probability models in GANs prohibits computation of sample likelihoods in their frameworks and limits their use in statistical inference problems. In this work, we resolve this issue by constructing an explicit probability model that can be used to compute sample likelihood statistics in GANs. In particular, we prove that under this probability model, a family of Wasserstein GANs with an entropy regularization can be viewed as a generative model that maximizes a variational lower-bound on average sample log likelihoods, an approach that VAEs are based on. This result makes a principled connection between two modern generative models, namely GANs and VAEs. In addition to the aforementioned theoretical results, we compute likelihood statistics for GANs trained on Gaussian, MNIST, SVHN, CIFAR-10 and LSUN datasets. Our numerical results validate the proposed theory.

研究の動機と目的

• GANsの根本的限界に対処する：明示的な確率モデルが存在しないため、サンプル尤度を計算できないこと。
• エントロピー正則化GANsが平均尤度の変分下界を最適化することを示すことにより、GANsとVAEsの間の統計的ギャップを埋める。
• GANで訓練されたモデルを用いて、サンプル尤度の下界を原理的かつ一貫して計算する手法を開発し、統計的推論タスクへの応用を可能にする。
• MNIST、CIFAR-10、SVHN、LSUN、およびガウス分布データ分布の実データ上で理論的枠組みを実証的に検証する。
• 尤度の代理指標が、生成器が線形である場合や結合がうまく学習された場合に、真の対数尤度に非常に近い近似となることを示す。

提案手法

• 明示的な条件付き確率モデルを提案：$ f_{Y|X=\mathbf{x}}(\mathbf{y}) \propto \exp(-\ell(\mathbf{y}, \mathbf{G}(\mathbf{x}))) $、ここで $ \ell $ は損失関数（例：L2 または L2²）。
• エントロピー正則化GANの目的関数（エントロピー正則化付きウォッサーシュタインGAN）を最小化することは、平均サンプル対数尤度の変分下界を最大化することに等しいことを示す。
• 最適輸送理論とエントロピー正則化を用いて、潜在変数の近似事後分布としての結合分布 $ \mathbb{P}_{X|Y=\mathbf{y}} $ を導出する。
• 期待再構成損失、潜在事後分布のエントロピー、および定数項を組み合わせることで、尤度の代理指標を構築する。
• 訓練済みGANの生成器と識別器を用いて、エントロピー最適輸送からの最適結合を介して、潜在事後分布 $ \mathbb{P}_{X|Y=\mathbf{y}} $ を推定する。
• 線形および非線形生成器の両方の設定にこのフレームワークを適用し、線形ケースでは閉形式解を、非線形ケースでは実証的推定を用いる。

実験結果

リサーチクエスチョン

• RQ1 GANsの暗黙的性質にもかかわらず、サンプル尤度の計算を可能にする統計的枠組みを構築できるか？
• RQ2 エントロピー正則化GANsの最適化目的関数は、平均対数尤度の変分下界を最大化することに等しいか？ これによりVAEsと整合性が保たれるか？
• RQ3 MNIST、CIFAR-10、SVHNなどの実世界のデータセットに適用した場合、対数尤度の変分下界はどの程度タイトか？
• RQ4 GANsから導出された尤度の代理指標は、統計的推論タスクにおける真のデータ尤度の信頼できる代理として使用可能か？
• RQ5 特に線形および非線形設定において、真の事後分布 $ f_{X|Y=\mathbf{y}} $ とGANで学習された事後分布 $ \mathbb{P}_{X|Y=\mathbf{y}} $ の間の近似誤差はどの程度か？

主な発見

• エントロピー正則化GANの目的関数は、理論的に平均サンプル対数尤度の変分下界を最大化することに等しく、GAN学習の統計的根拠を提供する。
• 2次損失を用いた線形生成器では、真の事後分布 $ f_{X|Y=\mathbf{y}} $ とGANで学習された事後分布 $ \mathbb{P}_{X|Y=\mathbf{y}} $ の間の近似誤差が、対数尤度の値よりも桁数が著しく小さい。
• 線形ケースでは、真の事後分布と学習済み事後分布のKLダイバージェンスが小さく、閉形式で計算可能であり、下界のタイトさが裏付けられる。
• 非線形生成器では、表2に示すように、推定された尤度の代理指標が正確なデータ対数尤度を非常によく近似しており、強力な実証的性能を示している。
• 尤度の代理指標により、モデル選択、外れ値検出、ドメインシフトの定量化といった実用的応用がGANsで可能になる。
• このフレームワークは、エントロピー正則化で訓練されたGANsが、学習安定性を向上させるだけでなく、統計的に意味のある尤度推定を提供することを示している。