[论文解读] Delayed rejection schemes for efficient Markov-Chain Monte-Carlo sampling of multimodal distributions

Miquel Trias, A. Vecchio+1 more|ArXiv.org|Apr 14, 2009

Bayesian Methods and Mixture Models参考文献 25被引用 13

一句话总结

本文提出了一种完全马尔可夫的多阶段延迟拒绝MCMC算法，以高效抽样多模态分布，尤其适用于标准MCMC方法因孤立模态而失效的高维参数空间。通过结合基于模态尺度先验知识的自适应多阶段提议机制，该方法显著提升了混合效率与探索能力，无需并行链或退火处理，实现了更高的接受率并减少了复杂后验分布中的随机游走行为。

ABSTRACT

A number of problems in a variety of fields are characterised by target distributions with a multimodal structure in which the presence of several isolated local maxima dramatically reduces the efficiency of Markov Chain Monte Carlo sampling algorithms. Several solutions, such as simulated tempering or the use of parallel chains, have been proposed to facilitate the exploration of the relevant parameter space. They provide effective strategies in the cases in which the dimension of the parameter space is small and/or the computational costs are not a limiting factor. These approaches fail however in the case of high-dimensional spaces where the multimodal structure is induced by degeneracies between regions of the parameter space. In this paper we present a fully Markovian way to efficiently sample this kind of distribution based on the general Delayed Rejection scheme with an arbitrary number of steps, and provide details for an efficient numerical implementation of the algorithm.

研究动机与目标

• 解决标准MCMC方法在高维多模态分布中因链被卡在孤立模态而效率低下的问题。
• 开发一种完全马尔可夫的抽样策略，避免并行链或模拟退火带来的计算开销。
• 改善具有退化结构和局部‘岛屿’状高后验密度区域的参数空间中的混合与探索能力。
• 提供一种数值高效的延迟拒绝实现，支持任意数量的阶段，并利用对模态尺度的先验知识。
• 在具有复杂8维后验结构的真实引力波数据分析问题上，验证该方法的有效性。

提出的方法

• 该方法采用通用的延迟拒绝方案，支持任意数量的阶段，允许每次迭代中进行多次提议尝试。
• 每个阶段使用以不同位置为中心的提议分布，包括一个基于链历史自适应调整的中心提议。
• 算法采用分层提议机制，后续阶段基于早期被拒绝的移动进行细化，从而提升对远处模态的探索能力。
• 通过基于三高斯分量模型的对数归一化混合密度的解析近似，计算提议密度比。
• 方法考虑了提议函数与评估函数之间的非对称性，并推导出在各种错位条件下的期望对数似然比的解析表达式。
• 数值实现通过聚焦关键参数并利用模态间距超过模态宽度时有效的近似方法，以处理高维问题。

实验结果

研究问题

• RQ1 具有多个阶段的完全马尔可夫延迟拒绝方案是否能在高维多模态分布中优于标准MCMC？
• RQ2 在存在孤立模态的情况下，多阶段提议的引入如何影响混合效率与接受率？
• RQ3 提议与目标模态中心之间错位（如均值偏移）对多模态抽样中延迟拒绝效率有何影响？
• RQ4 能否利用提议密度比的解析近似来提升高维MCMC中的数值稳定性和效率？
• RQ5 对模态尺度的先验知识在复杂后验分布中在多大程度上能提升延迟拒绝的性能？

主要发现

• 多阶段延迟拒绝方案显著改善了高维多模态分布中的混合效果，并减少了随机游走行为。
• 通过使用自适应多阶段提议，该方法能更有效地探索远处模态，从而实现更高的接受概率，优于单提议MCMC。
• 推导出提议密度比的期望对数值的解析表达式，实现了无需完整数值积分的高效计算。
• 当中心提议与目标模态中心对齐良好时，性能对提议与目标中心之间的中等程度错位具有鲁棒性。
• 在具有局部‘岛屿’状高后验密度的高维问题中，该方法优于标准MCMC和模拟退火。
• 在模拟的8维引力波后验结构上进行的数值验证表明，该方法显著提升了探索能力与收敛性，尤其在模态分离区域表现更优。