[论文解读] Symmetric Variational Autoencoder and Connections to Adversarial Learning

Li‐Qun Chen, Shuyang Dai+4 more|arXiv (Cornell University)|Sep 6, 2017

Generative Adversarial Networks and Image Synthesis参考文献 22被引用 17

一句话总结

本文提出对称变分自编码器（sVAE），通过使用对称的Kullback-Leibler散度改进生成建模，统一了变分自编码器（VAE）与对抗学习。sVAE在图像生成与重建任务中均达到最先进性能，优于ALI与DCGAN，同时保持训练稳定性并缓解了模式崩溃问题。

ABSTRACT

A new form of the variational autoencoder (VAE) is proposed, based on the symmetric Kullback-Leibler divergence. It is demonstrated that learning of the resulting symmetric VAE (sVAE) has close connections to previously developed adversarial-learning methods. This relationship helps unify the previously distinct techniques of VAE and adversarially learning, and provides insights that allow us to ameliorate shortcomings with some previously developed adversarial methods. In addition to an analysis that motivates and explains the sVAE, an extensive set of experiments validate the utility of the approach.

研究动机与目标

• 解决传统VAE的局限性，即因KL散度的非对称性导致重建结果模糊，且难以生成真实数据。
• 通过引入基于对称散度的框架，统一变分自编码器与对抗学习，建立与GAN、WGAN及ALI的联系。
• 通过利用对称KL散度与改进的训练动态，克服ALI中常见的重建与生成之间的权衡及训练不稳定性。
• 证明sVAE可在高维数据（如CelebA与CIFAR-10）上实现高质量的图像生成与重建，且无模式崩溃现象。
• 提供理论与实证证据，表明对称变分下界相比标准VAE与ALI，能实现更稳定、更高效的训练。

提出的方法

• 提出一种基于真实后验与近似后验之间对称KL散度的对称变分下界，替代标准VAE中使用的非对称KL散度。
• 将sVAE目标形式化为类似于GAN的极小化-极大化博弈，其中生成器与判别器以一种强制散度度量对称性的方式联合训练。
• 将AVB（对抗变分贝叶斯）框架改进以整合对称KL散度，实现编码器与解码器网络的端到端训练。
• 引入一种正则化项，形式为对称KL散度的加权和，以稳定训练并提升特征解耦能力。
• 使用判别器输出（在Sigmoid前）的非线性变换来更新生成器，改善梯度流动与模型稳定性。
• 将sVAE框架应用于无条件与条件生成任务，验证其在CelebA与CIFAR-10等数据集上的鲁棒性。

实验结果

研究问题

• RQ1 在VAE中用对称KL散度替代非对称KL散度，如何提升生成建模性能？
• RQ2 所提出的sVAE与现有对抗模型（如GAN、WGAN、ALI）之间在理论与实践上存在何种联系？
• RQ3 对称变分下界是否能缓解GAN中常见的模式崩溃问题，提升样本多样性？
• RQ4 sVAE框架是否在重建质量上优于ALI，同时保持强大的生成能力？
• RQ5 引入基于对称散度的正则化项，如何影响高维数据上的训练稳定性与性能？

主要发现

• 在CIFAR-10数据集上，sVAE的Inception分数达到6.96 ± 0.066，优于ALI（5.34 ± 0.05）与DCGAN，接近WGAN-GP（7.86 ± 0.07）的性能。
• 在CelebA数据集上，sVAE-r在正则化超参数λ的所有取值下均保持高质量的重建与生成性能，而ALI在增大λ时生成质量显著下降。
• 当在特定条件下应用对称散度时，sVAE框架可精确恢复ALI作为特例，建立了VAE与对抗模型之间的正式理论联系。
• 对称KL散度降低了判别器对正则化项的敏感度，相比ALI，实现了更稳定的训练与更优的推理性能。
• sVAE-r在CelebA上的Fréchet Inception Distance（FID）为8.81，优于DCGAN与WGAN-GP，且重建保真度更高，表现为更低的MSE值。
• 消融研究证实，对称散度对平衡重建与生成至关重要；sVAE-r在高λ值下仍能保持双项高性能，而ALICE在相同条件下生成性能完全失效。