[论文解读] Accelerating delayed-acceptance Markov chain Monte Carlo algorithms

Samuel Wiqvist, Umberto Picchini+3 more|arXiv (Cornell University)|Jun 15, 2018

Markov Chains and Monte Carlo Methods参考文献 42被引用 7

一句话总结

本文提出ADA-MCMC，这是一种近似且加速的延迟接受MCMC变体，通过利用代理模型在第二阶段避免昂贵的似然评估。在蛋白质折叠的随机微分方程模型等计算密集型场景中，该方法相比标准DA-MCMC实现了2–4倍的加速，同时保持了与精确方法相近的推断精度。

ABSTRACT

Delayed-acceptance Markov chain Monte Carlo (DA-MCMC) samples from a probability distribution via a two-stages version of the Metropolis-Hastings algorithm, by combining the target distribution with a "surrogate" (i.e. an approximate and computationally cheaper version) of said distribution. DA-MCMC accelerates MCMC sampling in complex applications, while still targeting the exact distribution. We design a computationally faster, albeit approximate, DA-MCMC algorithm. We consider parameter inference in a Bayesian setting where a surrogate likelihood function is introduced in the delayed-acceptance scheme. When the evaluation of the likelihood function is computationally intensive, our scheme produces a 2-4 times speed-up, compared to standard DA-MCMC. However, the acceleration is highly problem dependent. Inference results for the standard delayed-acceptance algorithm and our approximated version are similar, indicating that our algorithm can return reliable Bayesian inference. As a computationally intensive case study, we introduce a novel stochastic differential equation model for protein folding data.

研究动机与目标

• 在似然评估计算成本高昂时加速MCMC采样，特别是在复杂模型的贝叶斯推断中。
• 开发一种比标准延迟接受MCMC（DA-MCMC）更快的替代方法，即使引入近似也能保持可靠的推断。
• 在蛋白质折叠数据的新随机微分方程模型上展示该方法的有效性。
• 评估在高成本似然场景下计算速度与推断精度之间的权衡。
• 提供一种通用的近似MCMC框架，可推广至贝叶斯推断之外的应用。

提出的方法

• 提出ADA-MCMC，一种基于代理似然的近似两阶段MCMC算法，在昂贵的似然评估前使用代理模型对提议进行预筛选。
• 采用高斯过程回归建模似然代理，实现对对数似然值的快速近似。
• 在第二阶段应用四类决策规则：若基于代理的接受概率较高则立即接受，若较低则立即拒绝，否则评估精确似然。
• 在状态空间模型中使用粒子滤波进行精确似然评估，且ADA-MCMC中调用频率低于DA-MCMC。
• 依赖初步的MCMC运行来训练代理模型，随后用于指导提议接受决策。
• 对延迟接受框架进行改进，允许在某些情况下无需评估精确似然即可接受提议，依据是代理模型的置信度。

实验结果

研究问题

• RQ1 我们能否通过在延迟接受MCMC第二阶段近似似然评估，显著减少MCMC运行时间？
• RQ2 与精确DA-MCMC相比，ADA-MCMC中的近似对后验推断精度有何影响？
• RQ3 在哪些场景下ADA-MCMC能提供显著加速？何时代理建模的开销不具合理性？
• RQ4 ADA-MCMC与粒子边缘Metropolis-Hastings及马尔可夫链内Metropolis等其他MCMC方法相比表现如何？
• RQ5 代理模型在多大程度上能实现更快采样，而不会在后验估计中引入显著偏差？

主要发现

• 在蛋白质折叠案例研究中，ADA-MCMC的运行时间比标准DA-MCMC快2–4倍，每次似然评估耗时2–10秒。
• 与DA-MCMC相比，ADA-MCMC中粒子滤波的调用频率减少了2至5倍，直接贡献于加速。
• ADA-MCMC的推断结果与DA-MCMC及马尔可夫链内Metropolis方法非常接近，表明精度损失可忽略。
• 当似然评估本身很快时，该方法几乎无收益，证实其价值具有问题依赖性，仅在高成本场景下最有效。
• 案例研究显示，在蛋白质折叠模型中，18.8%的提议因代理模型置信度高而无需进行似然评估即被接受。
• 代理模型的质量至关重要：低质量代理可能导致推断偏差，凸显了可靠初步建模的必要性。