[论文解读] Black Box Variational Inference

Rajesh Ranganath, Sean Gerrish+1 more|arXiv (Cornell University)|Dec 31, 2013

Gaussian Processes and Bayesian Inference参考文献 14被引用 42

一句话总结

本文提出了黑箱变分推断（BBVI），这是一种通用的随机优化框架，通过从变分分布中进行蒙特卡洛采样来估计梯度，实现了快速、模型无关的变分推断。通过应用无需模型依赖的方差减少技术（如Rao-Blackwell化和控制变量），BBVI在收敛速度和预测似然性方面优于黑箱采样方法，从而实现了对复杂非共轭模型的快速探索。

ABSTRACT

Variational inference has become a widely used method to approximate posteriors in complex latent variables models. However, deriving a variational inference algorithm generally requires significant model-specific analysis, and these efforts can hinder and deter us from quickly developing and exploring a variety of models for a problem at hand. In this paper, we present a "black box" variational inference algorithm, one that can be quickly applied to many models with little additional derivation. Our method is based on a stochastic optimization of the variational objective where the noisy gradient is computed from Monte Carlo samples from the variational distribution. We develop a number of methods to reduce the variance of the gradient, always maintaining the criterion that we want to avoid difficult model-based derivations. We evaluate our method against the corresponding black box sampling based methods. We find that our method reaches better predictive likelihoods much faster than sampling methods. Finally, we demonstrate that Black Box Variational Inference lets us easily explore a wide space of models by quickly constructing and evaluating several models of longitudinal healthcare data.

研究动机与目标

• 减少推导特定模型变分推断算法的分析负担。
• 在无需为每个模型进行大量推导的情况下，实现对多样化概率模型的快速原型设计与评估。
• 开发一种适用于非共轭和复杂潜变量模型的通用推断方法。
• 与黑箱采样方法相比，提升收敛速度和预测性能。
• 在纵向数据和高维数据设置中，实现可扩展且高效的后验近似。

提出的方法

• 该方法将变分推断表述为证据下界（ELBO）的随机优化，利用从变分分布中采样的蒙特卡洛样本估计梯度。
• ELBO的梯度表示为对变分分布的期望，从而实现无偏的随机梯度估计。
• 通过Rao-Blackwell化实现方差减少，利用变分分布中的条件独立性来降低估计器的方差。
• 基于对数变分密度的控制变量被用于进一步降低梯度方差，且无需特定模型的推导。
• 采用自适应学习率（如AdaGrad）和数据子采样，以加速收敛并扩展至大规模数据集。
• 该方法仅需能够评估模型的对数似然和对数变分密度，因此可适用于任意模型。

实验结果

研究问题

• RQ1 能否开发一种通用的、模型无关的变分推断算法，使得每个模型所需的推导量最小化？
• RQ2 如何在不进行特定模型计算的情况下，降低随机变分推断中的梯度方差？
• RQ3 所提出的黑箱方法是否在收敛速度和预测性能方面优于黑箱采样方法？
• RQ4 该方法能否在实践中实现对广泛复杂非共轭模型的高效探索？
• RQ5 该方法在大规模数据集和高维潜空间中的可扩展性如何？

主要发现

• BBVI在更短时间内实现了比吉布斯采样中马尔可夫链蒙特卡洛（Metropolis-Hastings-in-Gibbs）采样更好的预测似然性，证明了其更优的收敛速度。
• Gamma-Normal-TS模型实现了-32.7的预测似然性，优于Gamma-Gamma-TS模型的-174，表明纵向结构和相关性建模至关重要。
• Gamma-Gamma模型表现较差（似然性为-175），可能是因为其无法捕捉实验室测量值之间的负相关性。
• BBVI实现了对四类非共轭模型在纵向医疗数据上的快速评估，而使用标准变分方法则需大量推导。
• 自适应学习率和数据子采样的使用显著提升了可扩展性和收敛速度。
• Rao-Blackwell化和控制变量等方差减少技术对实现快速收敛至关重要，同时保持了方法的黑箱特性。