[论文解读] Variational Bayesian Monte Carlo

Luigi Acerbi|arXiv (Cornell University)|Oct 12, 2018

Gaussian Processes and Bayesian Inference被引用 12

一句话总结

该论文提出变分贝叶斯蒙特卡洛（VBMC），一种样本高效框架，结合变分推断与基于高斯过程的贝叶斯积分法，用于近似昂贵的黑箱似然函数的后验分布和模型证据。VBMC在合成数据和真实神经元模型（最高D=10）上表现出稳健性能，仅需有限的似然评估次数，其准确性和一致性优于现有方法。

ABSTRACT

Many probabilistic models of interest in scientific computing and machine learning have expensive, black-box likelihoods that prevent the application of standard techniques for Bayesian inference, such as MCMC, which would require access to the gradient or a large number of likelihood evaluations. We introduce here a novel sample-efficient inference framework, Variational Bayesian Monte Carlo (VBMC). VBMC combines variational inference with Gaussian-process based, active-sampling Bayesian quadrature, using the latter to efficiently approximate the intractable integral in the variational objective. Our method produces both a nonparametric approximation of the posterior distribution and an approximate lower bound of the model evidence, useful for model selection. We demonstrate VBMC both on several synthetic likelihoods and on a neuronal model with data from real neurons. Across all tested problems and dimensions (up to $D = 10$), VBMC performs consistently well in reconstructing the posterior and the model evidence with a limited budget of likelihood evaluations, unlike other methods that work only in very low dimensions. Our framework shows great promise as a novel tool for posterior and model inference with expensive, black-box likelihoods.

研究动机与目标

• 解决在昂贵黑箱似然函数模型中进行贝叶斯推断的挑战，其中标准MCMC或变分方法因评估成本过高而不可行。
• 在有限的似然评估预算下，同时近似后验分布与模型证据（边缘似然）。
• 开发一种在中等维度（最高D=10）下依然有效的算法，即使在似然函数具有多峰性、重尾分布和强参数相关性等复杂特性时亦能保持性能。
• 克服现有基于代理模型方法的局限性，这些方法仅关注后验或模型证据，而非两者兼顾。
• 提供一种稳健且样本高效的推断框架，适用于计算密集型模型的科学计算与机器学习应用。

提出的方法

• 使用变分推断通过参数族qϕ(x)近似真实后验分布，通过优化变分参数ϕ最小化KL散度。
• 将变分目标中难以计算的边缘似然积分替换为基于高斯过程的贝叶斯积分近似，实现高效的数值积分。
• 利用采集函数（如a_pro）进行主动采样，战略性地选择似然评估点，提升高斯过程代理模型在后验密度高区域的准确性。
• 使用高斯过程建模对数联合分布log p(D|x)p(x)，利用高斯过程后验指导采样，并实现带不确定性量化的积分估计。
• 迭代优化高斯过程超参数并更新变分近似，通过在采样与优化之间切换，随时间降低计算成本。
• 将高斯过程代理模型集成到变分目标中，计算模型证据的下界（ELBO），实现模型选择。

实验结果

研究问题

• RQ1 是否存在一种统一框架，能够在有限函数评估次数下，同时对昂贵黑箱似然函数的后验与模型证据进行近似？
• RQ2 VBMC在具有多峰性、重尾分布和强参数相关性等现实特性的似然函数上的表现如何？
• RQ3 VBMC在多样化的合成与真实世界问题中，是否在准确性和样本效率方面均优于现有方法？
• RQ4 与仅使用代理模型或仅使用推断方法相比，VBMC的后验近似质量在多大程度上提升了模型证据估计的准确性？
• RQ5 VBMC的算法成本如何随似然评估次数变化？与WSABI或BBQ等替代方法相比如何？

主要发现

• VBMC在所有测试的合成似然函数与真实神经元数据中，均以高精度一致地重建后验分布与模型证据，即使在D=10维下亦表现良好。
• 在复杂、非平凡的似然函数（如多峰性与相关性）上，VBMC在后验准确度与模型证据估计方面优于WSABI、BBQ与BAPE。
• 在V1神经元模型（D=7）上，VBMC仅用250–300次似然评估，即达到中位数高斯化对称KL散度低于1（低于理想阈值）。
• VBMC每次函数评估的算法成本适中（平均2–3秒），且在约275次评估后显著下降，原因是从超参数采样切换至优化阶段。
• 控制实验表明，VBMC生成的样本质量高于其他方法，表现为使用VBMC样本作为输入时，WSABI-L的LML估计值更优。
• 直接对VBMC样本进行高斯过程拟合，可获得比其他方法更优的后验近似，尽管仍不如VBMC自身的变分后验准确，证实了VBMC变分近似的高质量。