[论文解读] Stochastic Gradient VB and the Variational Auto-Encoder

Diederik P. Kingma, Max Welling|arXiv (Cornell University)|Dec 20, 2013

Gaussian Processes and Bayesian Inference参考文献 17被引用 232

一句话总结

本文提出了随机梯度变分贝叶斯（SGVB），一种可扩展的算法，通过使用独立噪声变量重参数化变分下界，实现了变分自编码器的高效训练。该方法使通过随机节点进行端到端反向传播成为可能，从而即使在后验分布难以计算且数据集规模庞大的情况下，也能基于梯度优化生成模型和识别模型。

ABSTRACT

Can we efficiently learn the parameters of directed probabilistic models, in the presence of continuous latent variables with intractable posterior distributions, and large datasets? We introduce an unsupervised on-line learning algorithm that efficiently optimizes the variational lower bound on the marginal likelihood and that, under some mild conditions, even works in the intractable case. The algorithm, Stochastic Gradient Variational Bayes (SGVB), optimizes a probabilistic encoder (also called a recognition model) to approximate the intractable posterior distribution of the latent variables. Crucial is a reparameterization of the variational bound with an independent noise variable, yielding a stochastic objective function which can be jointly optimized w.r.t. variational and generative parameters using standard gradient-based stochastic optimization methods. Theoretical advantages are reflected in experimental results.

研究动机与目标

• 解决具有连续潜在变量且后验分布难以计算的有向概率模型中的参数学习挑战。
• 开发一种适用于大规模数据集的高效在线学习算法。
• 通过基于梯度的方法实现生成模型和变分（识别）模型的联合优化。
• 提供一种理论上有依据的方法，即使精确后验推断不可行也能有效工作。

提出的方法

• 使用独立噪声变量重参数化变分下界，使目标函数对模型参数可微。
• 构建一个依赖于噪声变量的随机目标函数，可通过随机梯度下降进行优化。
• 通过随机计算图中的反向传播，联合更新生成模型和识别模型的参数。
• 应用标准的随机优化技术，以最小化边缘似然的变分下界。
• 确保在温和正则性条件下方法依然有效，即使真实后验难以计算。

实验结果

研究问题

• RQ1 在连续潜在变量且后验分布难以计算的情况下，能否高效优化变分下界？
• RQ2 能否使用基于梯度的方法端到端训练生成模型和识别模型？
• RQ3 重参数化技巧是否能在大规模设置中实现有效且可扩展的学习？
• RQ4 当精确后验推断在计算上不可行时，该方法是否依然稳健且有效？

主要发现

• SGVB算法通过随机梯度下降实现了变分自编码器的高效可扩展训练。
• 重参数化技巧使通过随机节点的反向传播成为可能，从而实现了生成模型和识别模型的联合优化。
• 该方法在后验分布难以计算的情况下，仍能在大规模数据集上取得良好性能。
• 理论分析表明，该方法在温和条件下依然有效，即使无法进行精确后验计算。