[论文解读] Variational Generative Stochastic Networks with Collaborative Shaping

Philip Bachman, Doina Precup|arXiv (Cornell University)|Aug 2, 2017

Generative Adversarial Networks and Image Synthesis参考文献 14被引用 6

一句话总结

本文提出变分生成随机网络协同塑形方法，通过将变分自编码器展开为马尔可夫链，并利用密度比引导校正轨迹偏差来训练生成模型。该方法在MNIST和TFD数据集上达到最先进性能，通过KL正则化平衡重构与后验复杂度，在对数似然和样本质量方面优于GSN和GAN。

ABSTRACT

We develop an approach to training generative models based on unrolling a variational auto-encoder into a Markov chain, and shaping the chain's trajectories using a technique inspired by recent work in Approximate Bayesian computation. We show that the global minimizer of the resulting objective is achieved when the generative model reproduces the target distribution. To allow finer control over the behavior of the models, we add a regularization term inspired by techniques used for regularizing certain types of policy search in reinforcement learning. We present empirical results on the MNIST and TFD datasets which show that our approach offers state-of-the-art performance, both quantitatively and from a qualitative point of view.

研究动机与目标

• 开发一种生成模型训练方法，确保马尔可夫链的平稳分布与目标数据分布一致。
• 通过引入密度比引导的反馈，提升样本质量与对数似然，超越现有GSN与GAN方法。
• 通过正则化后验KL散度控制模型复杂度，防止后验坍缩并提升泛化能力。
• 实现对数据流形上独立样本与局部一致随机游走的高效采样。

提出的方法

• 通过将生成样本递归反馈至模型，将变分自编码器展开为马尔可夫链。
• 引入一个引导函数，估计模型生成分布与真实数据分布之间的对数密度比，实现轨迹的协同塑形。
• 采用正则化变分目标，其中标准KL散度项被重新加权，以控制后验分布的发散程度并防止后验坍缩。
• 使用时间反向传播进行训练，当数据量趋于无穷时，目标函数在模型分布与目标分布匹配时达到最小化。
• 在MNIST与TFD数据集上应用该方法，使用深度神经网络进行推理与生成，超参数在验证集上进行调优。
• 将回溯过程作为特例，通过引入密度比反馈与正则化，提升稳定性和性能。

实验结果

研究问题

• RQ1 在密度比引导的协同塑形下，由变分自编码器构建的马尔可夫链是否能收敛至真实数据分布？
• RQ2 与标准GAN或GSN相比，引入密度比引导如何提升样本质量与对数似然？
• RQ3 对后验分布进行KL正则化在多大程度上可防止后验坍缩并提升深度生成模型的泛化能力？
• RQ4 所提方法能否高效生成独立样本以及沿数据流形的局部一致随机游走？

主要发现

• 在MNIST数据集上，所提模型在λ = 24时取得GPDE对数似然得分330，显著优于先前方法。
• 在TFD数据集上，模型在λ = 30时取得GPDE得分2130，超过先前结果2050与2110。
• 模型在整个训练过程中保持高质量样本输出，而VAE基线在150k次更新后因后验坍缩导致生成数字无法辨认。
• VAE的变分下界持续上升，而GPDE下界持续下降，表明泛化能力差；而所提模型有效平衡了两项指标。
• 正则化项成功通过鼓励更分散的后验分布缓解了后验坍缩，即使以略微降低重构精度为代价。
• 定性样本显示，与VAE和ORK基线相比，该模型生成的数字更具真实感与多样性，尤其在训练后期表现更优。