[论文解读] Flow-GAN: Combining Maximum Likelihood and Adversarial Learning in Generative Models

Aditya Grover, Manik Dhar+1 more|arXiv (Cornell University)|May 24, 2017

Generative Adversarial Networks and Image Synthesis被引用 73

一句话总结

Flow-GAN 通过使用一个可逆的正规化流生成器实现对 GAN 风格生成器的精确似然评估，从而实现 MLE 和对抗性训练，并提出一种混合目标以在样本质量和被测试数据的似然之间取得平衡。

ABSTRACT

Adversarial learning of probabilistic models has recently emerged as a promising alternative to maximum likelihood. Implicit models such as generative adversarial networks (GAN) often generate better samples compared to explicit models trained by maximum likelihood. Yet, GANs sidestep the characterization of an explicit density which makes quantitative evaluations challenging. To bridge this gap, we propose Flow-GANs, a generative adversarial network for which we can perform exact likelihood evaluation, thus supporting both adversarial and maximum likelihood training. When trained adversarially, Flow-GANs generate high-quality samples but attain extremely poor log-likelihood scores, inferior even to a mixture model memorizing the training data; the opposite is true when trained by maximum likelihood. Results on MNIST and CIFAR-10 demonstrate that hybrid training can attain high held-out likelihoods while retaining visual fidelity in the generated samples.

研究动机与目标

• 激发将最大似然估计（MLE）与对抗学习相结合，用于生成模型。
• 介绍 Flow-GAN，一种具有可逆（正则化流）生成器的 GAN，允许精确似然评估。
• 在 MNIST 和 CIFAR-10 上经验性比较 MLE、对抗学习以及混合目标。
• 分析 AIS/KDE 在似然估计中的局限性，并将结果与生成器雅可比条件数联系起来。

提出的方法

• 使用正规化流作为 GAN 生成器，以便通过变换公式进行可处理的似然计算。
• 由于可逆性，能够对 p_theta(x) 进行精确评估以及对潜在变量的精确后验推断。
• 在最大似然和对抗性目标下训练 Flow-GAN（例如，Wasserstein GAN）。
• 提出一个混合目标，将对抗目标与对数似然项按 λ 加权结合。
• 研究生成器的雅可比矩阵，以解释对抗训练下的较差似然性并为混合方法提供动机。
• 在 MNIST（基于 NICE 的流）和 CIFAR-10（基于 Real-NVP 的流）上评估，使用标准样本质量指标（MODE/Inception）。

实验结果

研究问题

• RQ1 在 Flow-GANs 中，最大似然和对抗性训练在保留的对数似然和样本质量方面的比较如何？
• RQ2 混合目标是否能够在标准图像数据集上同时获得良好的似然性和样本保真度？
• RQ3 在可计算的情况下，对抗训练下出现的低似然性是如何解释？
• RQ4 简单基线（例如记忆训练数据的高斯混合模型）是否对“对抗性训练的生成器提供更好的似然性”的观点构成挑战？

主要发现

• 对抗性训练在样本质量上表现较好，但在保留的对数似然方面远比 MLE 差。
• 基于 MLE 的 Flow-GAN 获得更好的对数似然性，但产生的样本在视觉清晰度方面不如对抗性训练的同类。
• 一个简单的高斯混合基线在 CIFAR-10 的样本质量和保留似然性上都可超越对抗性训练的 Flow-GAN（MNIST 的趋势也成立）。
• 将对抗性训练与似然项结合的混合目标可以在两者之间取得平衡，并且在 MNIST 上同时提高似然性和样本质量。
• 对生成器雅可比矩阵的分析表明，对抗训练导致雅可比矩阵病态和有效支持较小，从而解释低似然性；混合目标缓解了这一点。