[论文解读] Variational Bayesian Inference with Stochastic Search

John Paisley, David M. Blei+1 more|arXiv (Cornell University)|Jun 27, 2012

Bayesian Methods and Mixture Models被引用 271

一句话总结

本文提出了一种用于变分贝叶斯推断的随机优化方法，通过使用控制变量减少梯度方差，直接最大化变分下界。该方法在非共轭模型（如逻辑回归和HDP近似）中实现了高效的推断，无需依赖闭式积分或额外的下界。

ABSTRACT

Mean-field variational inference is a method for approximate Bayesian posterior inference. It approximates a full posterior distribution with a factorized set of distributions by max-imizing a lower bound on the marginal likeli-hood. This requires the ability to integrate a sum of terms in the log joint likelihood using this factorized distribution. Often not all in-tegrals are in closed form, which is typically handled by using a lower bound. We present an alternative algorithm based on stochastic optimization that allows for direct optimiza-tion of the variational lower bound. This method uses control variates to reduce the variance of the stochastic search gradient, in which existing lower bounds can play an im-portant role. We demonstrate the approach on two non-conjugate models: logistic regres-sion and an approximation to the HDP. 1.

研究动机与目标

• 解决均场变分推断中难以处理的积分问题，这些问题通常需要近似或下界。
• 开发一种方法，通过使用随机优化直接优化变分下界，从而避免对闭式积分的依赖。
• 在复杂且非共轭的模型（如逻辑回归和层次狄利克雷过程）中实现高效且可扩展的贝叶斯推断。
• 使用控制变量减少随机优化中的梯度方差，从而提高收敛性和稳定性。
• 将现有下界作为工具，以增强随机搜索框架的性能。

提出的方法

• 将变分推断问题表述为对变分参数的随机优化任务。
• 使用蒙特卡洛采样估计变分下界的梯度，从而在无需闭式积分的情况下实现优化。
• 应用控制变量以减少随机梯度估计器的方差，提高收敛速度和稳定性。
• 利用现有下界作为辅助工具，以指导或改进控制变量的构建。
• 通过带方差减少的随机梯度上升法，迭代更新变分参数，以优化下界。
• 将该方法集成到非共轭模型（如逻辑回归和HDP近似）中，这些模型的标准均场方法因难以处理的项而失效。

实验结果

研究问题

• RQ1 能否在非共轭模型中有效应用带方差减少的随机优化于变分贝叶斯推断？
• RQ2 控制变量的使用在多大程度上改善了随机变分推断的收敛性和准确性？
• RQ3 现有下界在多大程度上可被用于提升变分推断中随机搜索的性能？
• RQ4 与传统均场变分推断相比，该方法在复杂模型中的可扩展性和准确性如何？
• RQ5 该方法能否成功应用于真实世界中的非共轭模型，如逻辑回归和HDP近似？

主要发现

• 所提出的随机优化框架可直接最大化变分下界，而无需依赖闭式积分。
• 控制变量的使用显著降低了梯度方差，从而实现了更快且更稳定的收敛。
• 该方法在逻辑回归和HDP近似任务中实现了具有竞争力的推断质量，在非共轭设置下优于标准均场方法。
• 现有下界可有效整合到随机搜索框架中，以改善梯度估计和优化性能。
• 该方法在传统变分方法因难以处理期望而失效的复杂模型中，表现出良好的可扩展性和实用性。