[论文解读] Parallel Markov Chain Monte Carlo

Douglas VanDerwerken, Scott C. Schmidler|arXiv (Cornell University)|Dec 28, 2013

Markov Chains and Monte Carlo Methods参考文献 8被引用 18

一句话总结

本文提出一种通用的并行化马尔可夫链蒙特卡洛（MCMC）方法，通过划分状态空间并估计权重，将独立的异步马尔可夫链结合在一起。该方法在单峰目标分布下实现与处理器数量成比例的线性加速，在多峰设置下实现指数级加速，从而在不牺牲收敛性严谨性的情况下实现高效采样。

ABSTRACT

Markov chain Monte Carlo is an inherently serial algorithm. Although likelihood calculations for individual steps can sometimes be parallelized, the serial evolution of the process is widely viewed as incompatible with parallelization, offering no speedup for samplers which require large numbers of iterations to converge to equilibrium. We provide a methodology for parallelizing Markov chain Monte Carlo across large numbers of independent, asynchronous processors. Our approach uses a partitioning and weight estimation scheme to combine independent simulations run on separate processors into rigorous Monte Carlo estimates. The method is originally motivated by sampling multimodal target distributions, where we see an exponential speedup in running time. However we show that the approach is general-purpose and applicable to all Markov chain Monte Carlo simulations, and demonstrate speedups proportional to the number of available processors on slowly mixing chains with unimodal target distributions. The approach is simple and easy to implement, and suggests additional directions for further research.

研究动机与目标

• 克服MCMC固有的串行性，尽管并行计算技术不断进步，但其可扩展性仍受限制。
• 通过使用多个独立、异步的MCMC链，实现对平衡性质的高效且严谨的估计。
• 为任何MCMC算法（包括并行退火和自适应MCMC等复杂采样器）提供一个通用框架。
• 通过实证验证，在单峰和多峰目标分布下均实现显著加速。
• 提供一种实用且易于实现的解决方案，与现有MCMC软件（如BUGS）兼容。

提出的方法

• 基于独立链的后验样本，使用聚类方法（如Voronoi划分）将状态空间划分为不相交的区域。
• 使用针对每个区域量身定制的提议分布，通过重要性抽样估计每个划分的边缘概率。
• 通过加权组合所有链的样本，其中权重通过工具分布和重抽样技术估计。
• 采用两阶段估计程序：首先使用部分抽样估计划分权重，然后使用这些权重组合完整链，以生成无偏的蒙特卡洛估计。
• 使用重尾的t分布作为工具提议分布，以确保权重估计的稳健性。
• 通过解耦链模拟与权重估计，实现异步执行，从而支持真正的并行化。

实验结果

研究问题

• RQ1 是否可以在不损害后验估计有效性的前提下，对独立、异步处理器上的MCMC实现有效并行化？
• RQ2 在单峰目标分布下，所提方法是否能在处理器数量上实现线性加速？
• RQ3 在传统MCMC难以收敛的多峰分布中，该方法是否能显著缩短收敛时间？
• RQ4 与串行MCMC相比，该并行化MCMC在准确性和收敛速度方面表现如何？
• RQ5 该方法是否具备通用性，并与现有MCMC软件和复杂采样方案兼容？

主要发现

• 在单峰吉布斯采样中，该方法实现了超过20倍的加速，收敛时间从120万次有效迭代减少至6万次以下。
• 在具有8个协变量的高维回归模型中，该并行吉布斯采样器的收敛速度比串行链快20倍，收敛阈值为0.10。
• 在杂合性缺失模型中，该并行MCMC产生的后验均值与重要性抽样结果一致（例如，η = 0.816 vs. 0.814），验证了其准确性。
• 在多峰设置中，该方法表现出指数级加速，性能随问题维度的增加而有利提升。
• 使用100次迭代和每个划分10,000次抽样的t分布工具提议进行权重估计，获得了稳定且准确的后验估计。
• 该方法对混合缓慢具有鲁棒性，例如在β₂的自相关系数超过0.999的链中仍能成功估计，而串行MCMC则需远多于迭代次数。