[论文解读] Asymptotically Exact MCMC Algorithms via Local Approximations of Computationally Intensive Models

Patrick R. Conrad, Youssef Marzouk+2 more|arXiv (Cornell University)|Feb 7, 2014

Markov Chains and Monte Carlo Methods被引用 11

一句话总结

该论文提出了一种新颖的MCMC框架，该框架在Metropolis-Hastings核内使用局部近似（如多项式或高斯过程模型），以显著减少计算密集型贝叶斯推断中的前向模型评估次数。该方法在实现真后验分布的渐近精确采样同时，使ODE和PDE推断问题的计算速度提升了多个数量级。

ABSTRACT

We construct a new framework for accelerating Markov chain Monte Carlo in posterior sampling problems where standard methods are limited by the computational cost of the likelihood, or of numerical models embedded therein. Our approach introduces local approximations of these models into the Metropolis-Hastings kernel, borrowing ideas from deterministic approximation theory, optimization, and experimental design. Previous efforts at integrating approximate models into inference typically sacrifice either the sampler's exactness or efficiency; our work seeks to address these limitations by exploiting useful convergence characteristics of local approximations. We prove the ergodicity of our approximate Markov chain, showing that it samples asymptotically from the \emph{exact} posterior distribution of interest. We describe variations of the algorithm that employ either local polynomial approximations or local Gaussian process regressors. Our theoretical results reinforce the key observation underlying this paper: when the likelihood has some \emph{local} regularity, the number of model evaluations per MCMC step can be greatly reduced without biasing the Monte Carlo average. Numerical experiments demonstrate multiple order-of-magnitude reductions in the number of forward model evaluations used in representative ODE and PDE inference problems, with both synthetic and real data.

研究动机与目标

• 解决在似然函数或数值模型评估成本高昂时，MCMC采样中的计算瓶颈问题。
• 开发一种方法，在保持精确后验采样同时，减少每步MCMC的前向模型评估次数。
• 克服先前近似推断方法的局限性，这些方法在精确性或效率之间做出妥协。
• 利用似然函数的局部正则性，实现在MCMC框架内准确且低成本的近似。

提出的方法

• 提出一种改进的Metropolis-Hastings核，将计算密集型模型的局部近似纳入其中。
• 利用确定性近似理论，构建似然函数的局部多项式或高斯过程回归器。
• 设计提议机制，使其依赖于这些局部近似，从而减少对完整模型评估的依赖。
• 采用实验设计原则，选择用于构建局部近似的有信息量的点。
• 证明所得马尔可夫链的遍历性，确保其渐近收敛至精确后验分布。
• 根据局部模型正则性动态调整近似质量，以维持准确性和效率。

实验结果

研究问题

• RQ1 在Metropolis-Hastings核中使用局部近似，是否能在降低计算成本的同时保持后验采样的精确性？
• RQ2 前向模型评估次数如何随近似质量和局部正则性而变化？
• RQ3 何种类型的局部近似（如多项式、高斯过程）能在准确性和效率之间实现最佳权衡？
• RQ4 在何种条件下，局部近似能保持遍历性并收敛至真实后验分布？
• RQ5 该方法是否能在不引入偏差的前提下，显著提升ODE和PDE推断的速度？

主要发现

• 所提出的MCMC算法尽管使用了局部近似，仍能实现对真实后验分布的渐近精确采样。
• 该方法在合成数据和真实数据的ODE与PDE推断问题中，将前向模型评估次数减少了多个数量级。
• 局部多项式和高斯过程近似均能实现显著的计算节省，同时保持采样准确性。
• 马尔可夫链的收敛性质得到了严格证明，确保在所提框架下采样器始终有效。
• 数值实验表明，即使模型评估次数大幅减少，蒙特卡洛平均仍保持无偏。