[論文レビュー] Flow-GAN: Combining Maximum Likelihood and Adversarial Learning in Generative Models

Aditya Grover, Manik Dhar+1 more|arXiv (Cornell University)|May 24, 2017

Generative Adversarial Networks and Image Synthesis被引用数 73

ひとこと要約

Flow-GAN は、可逆的正規化フロー生成器を用いることで GAN スタイルの生成器の厳密な尤度評価を可能にし、MLE と adversarial training の両方と、サンプル品質と保持データ尤度をバランスさせるハイブリッド目的を実現します。

ABSTRACT

Adversarial learning of probabilistic models has recently emerged as a promising alternative to maximum likelihood. Implicit models such as generative adversarial networks (GAN) often generate better samples compared to explicit models trained by maximum likelihood. Yet, GANs sidestep the characterization of an explicit density which makes quantitative evaluations challenging. To bridge this gap, we propose Flow-GANs, a generative adversarial network for which we can perform exact likelihood evaluation, thus supporting both adversarial and maximum likelihood training. When trained adversarially, Flow-GANs generate high-quality samples but attain extremely poor log-likelihood scores, inferior even to a mixture model memorizing the training data; the opposite is true when trained by maximum likelihood. Results on MNIST and CIFAR-10 demonstrate that hybrid training can attain high held-out likelihoods while retaining visual fidelity in the generated samples.

研究の動機と目的

• 生成モデルにおいて最大尤度推定（MLE）と対立的学習を組み合わせる動機づけ。
• Invertible（正規化フロー）生成器を持つGANである Flow-GAN を導入し、厳密な尤度評価を可能にする。
• MNIST と CIFAR-10 で MLE、敵対的学習、ハイブリッド目的の実証的比較を行う。
• 尤度推定のための AIS/KDE の制限を分析し、生成器のヤコビアンの条件づけと結果を結びつける。

提案手法

• 変数変換の公式を用いて扱いやすい尤度計算を可能にするため、GAN の生成器として正規化フローを用いる。
• 可逆性のおかげで p_theta(x) の厳密な評価と潜在変数 z に対する正確な事後推論を可能にする。
• Flow-GAN を最大尤度と adversarial objective（例: Wasserstein GAN） の下で訓練する。
• λ で重み付けされた対敵的目的と対数尤度項を組み合わせたハイブリッド目的を提案する。
• 対敵的訓練下での低い尤度を説明するために生成器のヤコビアンを調査し、ハイブリッド手法を動機づける。
• MNIST（NICEベースのフロー）と CIFAR-10（Real-NVP ベースのフロー）で、標準的なサンプル品質指標（MODE/Inception）を用いて評価する。

実験結果

リサーチクエスチョン

• RQ1 Flow-GAN において、最大尤度と敵対的訓練は、保留データに対する対数尤度とサンプル品質の観点でどのように比較されるか？
• RQ2 ハイブリッド目的は標準的な画像データセットで両方の尤度とサンプル忠実度を達成できるか？
• RQ3 厳密な尤度が計算可能であるときに、敵対的訓練で観測される低い尤度は何によって説明されるか？
• RQ4 訓練データを memorizing するようなシンプルな基準法（例: ガウス混合モデル）が、敵対的訓練済み生成器がより良い尤度をもたらすという考えに挑戦するか？

主な発見

• 敵対的訓練は高いサンプル品質をもたらす一方で、MLE と比べて保留データ上の対数尤度は大幅に悪化する。
• MLEベースの Flow-GAN ははるかに良い対数尤度を達成するが、敵対的訓練された対応物より視覚的に鋭いサンプルを生むとは限らない。
• 単純なガウス混合ベースラインは CIFAR-10 でサンプル品質と保持データの尤度の両方で敵対的訓練 Flow-GAN を上回る（MNIST の傾向も同様）。
• ハイブリッド目的は敵対的訓練と尤度項を組み合わせて両方の目標をバランスさせ、MNIST では尤度とサンプル品質の双方を改善する。
• 生成器のヤコビアンの分析は、敵対的訓練が病的に条件付けられたヤコビアンと小さな有効サポートをもたらし、低い尤度を説明することを明らかにする；ハイブリッド目的はこれを緩和する。