[论文解读] Prescribed Generative Adversarial Networks

Adji Bousso Dieng, Francisco J. R. Ruiz+2 more|arXiv (Cornell University)|Oct 9, 2019

Generative Adversarial Networks and Image Synthesis参考文献 67被引用 47

一句话总结

PresGANs 向生成器输出添加噪声，并使用熵正则化对抗性损失以防止模式坍缩并使 GAN 的可计算预测对数似然评估成为可行。

ABSTRACT

Generative adversarial networks (GANs) are a powerful approach to unsupervised learning. They have achieved state-of-the-art performance in the image domain. However, GANs are limited in two ways. They often learn distributions with low support---a phenomenon known as mode collapse---and they do not guarantee the existence of a probability density, which makes evaluating generalization using predictive log-likelihood impossible. In this paper, we develop the prescribed GAN (PresGAN) to address these shortcomings. PresGANs add noise to the output of a density network and optimize an entropy-regularized adversarial loss. The added noise renders tractable approximations of the predictive log-likelihood and stabilizes the training procedure. The entropy regularizer encourages PresGANs to capture all the modes of the data distribution. Fitting PresGANs involves computing the intractable gradients of the entropy regularization term; PresGANs sidestep this intractability using unbiased stochastic estimates. We evaluate PresGANs on several datasets and found they mitigate mode collapse and generate samples with high perceptual quality. We further found that PresGANs reduce the gap in performance in terms of predictive log-likelihood between traditional GANs and variational autoencoders (VAEs).

研究动机与目标

• 通过熵正则化促进高熵的生成器分布来解决 GANs 中的模式坍缩。
• 通过定义一个明确的生成密度，使对 GAN 的预测对数似然的可计算估计成为可能。
• 开发熵梯度的无偏随机梯度估计量，以有效拟合 PresGANs。
• 在不同数据集上展示模式覆盖与样本质量的实证改进。

提出的方法

• 将生成过程 p_theta(x) 定义为以高斯 z 和高斯 x|z 的无限混合，以保证一个良定义的密度。
• 在 GAN 目标中引入熵正则项：L_PresGAN = L_GAN - lambda * H(p_theta(x)).
• 通过用 sigma 扰动 x 的方式向生成器输出添加噪声，确保 p_theta(x) 的存在并使熵计算成为可能。
• 使用重参数化和哈密顿蒙特卡洛（HMC）对 z 样本计算熵梯度的无偏蒙特卡洛估计。
• 通过重参数化和蒙特卡洛平均，给出包含熵梯度项在内的 theta 的无偏梯度估计。
• 像标准 GAN 那样更新判别器 φ，同时对真实样本应用一致的数据噪声化以稳定训练。

实验结果

研究问题

• RQ1 通过输出噪声的叠加实现的熵正则是否能防止 GAN 的模式坍缩？
• RQ2 是否可以通过用明确的密度替代隐式生成器来获得 GAN 的可计算预测对数似然？
• RQ3 如何有效估计 PresGAN 中熵项的梯度来训练模型？
• RQ4 PresGANs 是否在不牺牲感知质量的前提下改善模式覆盖和样本多样性？

主要发现

• PresGANs 缓解模式坍缩，在合成数据和真实数据实验中恢复多种数据模态。
• 生成的样本在保持对数据分布的多样覆盖的同时，具有高感知质量。
• 使用 PresGANs 时，GANs 与 VAE 之间的预测对数似然差距缩小，表明泛化评估有所改善。
• 熵正则化目标通过重要性采样实现对对数似然的可控近似。
• 可以使用重参数化和基于 HMC 的后验样本来获得熵项的无偏梯度估计。
• 通过对真实数据进行数据噪声化和对生成器方差的控制，训练稳定性得到提升。