[论文解读] Hamiltonian Monte Carlo using an adjoint-differentiated Laplace approximation: Bayesian inference for latent Gaussian models and beyond

Charles C. Margossian, Aki Vehtari+2 more|arXiv (Cornell University)|Apr 27, 2020

Markov Chains and Monte Carlo Methods参考文献 41被引用 9

一句话总结

本文提出了一种伴随微分的拉普拉斯近似方法，用于在潜变量高斯模型中实现可扩展的贝叶斯推断，通过边缘化潜变量高斯变量实现高效的哈密顿蒙特卡洛（HMC）采样。该方法在高维超参数情形下将梯度计算速度提升了数个数量级，优于标准技术，并在包含约6,000个超参数的复杂模型（如稀疏核交互模型）中实现了稳健的推断。

ABSTRACT

Gaussian latent variable models are a key class of Bayesian hierarchical models with applications in many fields. Performing Bayesian inference on such models can be challenging as Markov chain Monte Carlo algorithms struggle with the geometry of the resulting posterior distribution and can be prohibitively slow. An alternative is to use a Laplace approximation to marginalize out the latent Gaussian variables and then integrate out the remaining hyperparameters using dynamic Hamiltonian Monte Carlo, a gradient-based Markov chain Monte Carlo sampler. To implement this scheme efficiently, we derive a novel adjoint method that propagates the minimal information needed to construct the gradient of the approximate marginal likelihood. This strategy yields a scalable differentiation method that is orders of magnitude faster than state of the art differentiation techniques when the hyperparameters are high dimensional. We prototype the method in the probabilistic programming framework Stan and test the utility of the embedded Laplace approximation on several models, including one where the dimension of the hyperparameter is $\sim$6,000. Depending on the cases, the benefits can include an alleviation of the geometric pathologies that frustrate Hamiltonian Monte Carlo and a dramatic speed-up.

研究动机与目标

• 解决潜变量高斯模型中贝叶斯推断的计算瓶颈问题，其中由于后验分布几何结构复杂，HMC难以有效运行。
• 在超参数为高维时，实现边缘似然梯度计算的高效性，这是可扩展MCMC中的关键挑战。
• 开发一种可微分的拉普拉斯近似方法，可无缝集成到Stan等概率编程框架中的动态HMC中。
• 在高维模型（包括具有约6,000个超参数的稀疏核交互模型）上展示该方法的实用性。
• 通过结合边缘化与基于梯度的采样，克服变分推断在多模态后验分布中的局限性。

提出的方法

• 该方法使用拉普拉斯近似对潜变量高斯变量θ进行解析边缘化，使后验分布仅依赖于超参数φ。
• 提出一种新颖的伴随微分技术，仅传播计算近似边缘似然梯度所必需的最小信息量。
• 伴随方法以每超参数O(1)次操作的复杂度计算关于φ的边缘对数似然梯度，具有与维度呈良好扩展性的特点。
• 该方法被集成到Stan的HMC框架中，利用自动微分与动态自适应机制，实现稳健的采样。
• 该方法在包含约6,000个超参数的模型上进行了验证，包括稀疏核交互模型和具有霍尔舍夫先验的层次回归模型。
• 拉普拉斯近似被嵌入HMC中，使超参数空间的高效探索成为可能，同时避免了完整联合采样带来的几何病态问题。

实验结果

研究问题

• RQ1 伴随微分的拉普拉斯近似是否能显著降低高维潜变量高斯模型中梯度计算的计算成本？
• RQ2 所提出的方法是否因潜变量高斯变量的存在而改善了复杂后验几何结构下HMC的混合性与收敛性？
• RQ3 该方法能否处理超参数的多模态后验分布，特别是在模态之间存在中等能量壁垒的情况下？
• RQ4 在准确性和计算效率方面，嵌入式拉普拉斯近似与完整HMC和变分推断相比表现如何？
• RQ5 伴随方法在超参数维度增加时的可扩展性如何，特别是在稀疏核交互模型等模型中？

主要发现

• 与标准技术相比，伴随微分的拉普拉斯近似在高维超参数情形下将梯度计算时间减少了数个数量级。
• 在具有约6,000个超参数的稀疏核交互模型中，该方法实现了成功的HMC采样，且无发散转移，而完整HMC因调参不稳定性而失败。
• 如图1所示，与Rasmussen和Williams算法相比，该方法在高维问题上的微分时间实现了100倍的速度提升。
• 在正则化霍尔舍夫模型上，嵌入式拉普拉斯近似的结果与完整HMC一致，而ADVI未能捕捉到后验的正确模式。
• 在多模态后验分布中，该方法成功探索了多个模式，而ADVI则坍缩至单一模式。
• 该方法实现了稳定的HMC采样并结合动态自适应，避免了手动调参，并相比标准HMC显著减少了发散转移。