[论文解读] Variational Inference: A Unified Framework of Generative Models and Some Revelations

Jianlin Su|arXiv (Cornell University)|Jul 16, 2018

Generative Adversarial Networks and Image Synthesis参考文献 7被引用 10

一句话总结

本文提出了一种统一的变分推断框架，将 VAE、GAN 及相关模型重新解释为单一推断原则的特例。通过使用联合 KL 散度重新表述变分推断，作者以一致的方式推导出 EM、VAE、GAN、AAE 和 BiGAN，揭示了标准 GAN 缺少一个关键的正则化项——该缺失项导致训练不稳定，而其补充可显著提升收敛性与稳定性。

ABSTRACT

We reinterpreting the variational inference in a new perspective. Via this way, we can easily prove that EM algorithm, VAE, GAN, AAE, ALI(BiGAN) are all special cases of variational inference. The proof also reveals the loss of standard GAN is incomplete and it explains why we need to train GAN cautiously. From that, we find out a regularization term to improve stability of GAN training.

研究动机与目标

• 将 VAE、GAN、AAE、BiGAN 等多样化的深度生成模型统一于单一的变分推断框架之下。
• 通过将其嵌入一个有原则的概率框架，解决许多 GAN 变体缺乏理论基础的问题。
• 识别并修正标准 GAN 训练中缺失的关键正则化项，该缺失项被证明是训练稳定性的核心因素。
• 通过一种新颖的变分推断公式，提供对现有模型（如 VAE、EM）更清晰、更系统的推导。
• 证明对抗训练无需被表述为极小极大博弈，而可通过适当的损失分解从变分推断中直接推导得出。

提出的方法

• 通过最小化联合 KL 散度 $KL(p(x,z)\|q(x,z))$ 而非边际 $KL(\tilde{p}(x)\|q(x))$ 重新表述变分推断，从而实现可 tractable 的优化。
• 通过假设高斯先验与后验分布并应用重参数化技巧以反向传播通过随机性，将 VAE 和 EM 作为特例推导。
• 通过将生成器建模为狄拉克函数 $q(x|z) = \delta(x - G(z))$，将 GAN 重新解释为变分推断问题，将 $z$ 视为确定性潜在代码。
• 引入一个二值潜在变量 $y$ 以建模真实/虚假样本，从而推导出 GAN 的判别器作为后验概率 $p(y|x,z)$。
• 推导出最优判别器 $D(x,z) = \frac{p^o(z|x)\tilde{p}(x)}{p^o(z|x)\tilde{p}(x) + q^o(x|z)q(z)}$，从而导出一种带有隐式正则化项的新 GAN 损失。
• 提出 GAN 的联合训练目标，结合对抗损失与重构损失 $\|x - G(E(x))\|^2$，在不干扰对抗训练的前提下提升稳定性。

实验结果

研究问题

• RQ1 VAE、GAN、AAE 和 BiGAN 能否在单一变分推断框架下实现统一？
• RQ2 为何标准 GAN 需要仔细调整超参数且常出现不收敛？
• RQ3 标准 GAN 目标中缺失的正则化项是什么，导致其不稳定？
• RQ4 对抗训练能否从变分推断中推导，而非被表述为极小极大博弈？
• RQ5 所提出的统一框架能否提升 GAN 的训练稳定性和泛化能力？

主要发现

• 标准 GAN 损失不完整，缺少一个源自变分推断框架的关键正则化项，这解释了其不稳定性。
• 缺失的正则化项为 $KL(p(z|x)\|p^o(z|x))$，该表达式在变分推断推导过程中自然出现，可稳定 GAN 训练。
• 所提出的联合损失 $\mathbb{E}_{x\sim\tilde{p}(x)}[-\log D(E(x))] + \lambda\|x - G(E(x))\|^2$ 在不损害对抗性能的前提下，显著提升了训练稳定性和泛化能力。
• 理论分析表明，标准 GAN 的极小极大公式并非唯一有效方法——对抗训练可直接从变分推断中通过适当的损失分解导出。
• 统一框架成功地从单一变分推断原理中推导出 EM、VAE、GAN、AAE 和 BiGAN，证明了它们共享的概率基础。
• 实验结果证实，所提出的正则化项可提升训练稳定性，且新损失公式在性能上与标准 GAN 和 BiGAN 目标相当。