[论文解读] Interacting Particle Markov Chain Monte Carlo

Tom Rainforth, Christian A. Naesseth+5 more|arXiv (Cornell University)|Feb 16, 2016

Markov Chains and Monte Carlo Methods参考文献 24被引用 10

一句话总结

本文提出了一种新型的PMCMC方法——交互式粒子马尔可夫链蒙特卡洛（iPMCMC），该方法通过使用一组并行的SMC和CSMC采样器，并结合动态索引交换机制，显著提升了混合效率与收敛速度。在同等计算预算下，其性能显著优于非交互式或单采样器的PMCMC变体，且特别适合分布式与多核计算系统。

ABSTRACT

We introduce interacting particle Markov chain Monte Carlo (iPMCMC), a PMCMC method based on an interacting pool of standard and conditional sequential Monte Carlo samplers. Like related methods, iPMCMC is a Markov chain Monte Carlo sampler on an extended space. We present empirical results that show significant improvements in mixing rates relative to both non-interacting PMCMC samplers, and a single PMCMC sampler with an equivalent memory and computational budget. An additional advantage of the iPMCMC method is that it is suitable for distributed and multi-core architectures.

研究动机与目标

• 解决标准粒子吉布斯（PG）采样器在条件SMC步骤中因路径退化导致的混合性能差的问题。
• 通过允许多个SMC和CSMC采样器之间的交互，改善状态空间模型中的MCMC混合性能。
• 设计一种可扩展的、天然并行的算法，适用于多核与分布式计算架构。
• 为该方法提供理论基础，即在扩展空间上的部分坍塌吉布斯采样器。
• 在计算成本相当的前提下，证明iPMCMC在性能上优于独立采样器与单采样器基线方法。

提出的方法

• 维护一个包含N个并行SMC和CSMC采样器（称为节点）的池，每个节点处理相同的数据，但具有不同的粒子轨迹。
• 在每次MCMC遍历后，通过其边际似然估计值对节点重新分配角色（SMC或CSMC）。
• 通过节点之间的索引交换，使来自不同轨迹的粒子能够被采样，从而增强探索能力并减少路径退化。
• 节点之间仅交换边际似然估计值与角色分配信息，实现最小化的节点间通信。
• 该方法在理论上被证明是所有节点上粒子集合扩展空间上的部分坍塌吉布斯采样器。
• 该框架通过允许任意数量的相互作用CSMC与SMC节点，推广了现有的PMCMC方法，包括基于α-SMC的方法。

实验结果

研究问题

• RQ1 在不增加计算成本的前提下，多个SMC与CSMC采样器之间的交互是否能改善粒子MCMC的混合性能？
• RQ2 SMC与CSMC节点之间的动态角色交换机制如何影响收敛速度与有效样本量？
• RQ3 iPMCMC在分布式或多核系统中能实现多大程度的可扩展性，同时保持理论有效性？
• RQ4 在总计算预算相同的情况下，iPMCMC是否优于非交互式PG采样器与单个PG采样器？
• RQ5 为最大化切换概率与混合效率，SMC与CSMC节点之间的最优比例（P与M）为何值？

主要发现

• 与非交互式PMCMC采样器及计算预算相当的单个PG采样器相比，iPMCMC显著提升了混合速率。
• 在多个合成数据集上，iPMCMC在后验矩估计（均值、方差、偏度、峰度）方面表现出更优的收敛性，尤其当P/M ≈ 1/2时。
• 在具有挑战性的非线性状态空间模型中，iPMCMC的有效样本量（ESS）持续高于串行化或独立变体。
• iPMCMC的归一化ESS与运行32倍长的单个PG链或使用32倍粒子数的单个PG链相当或更优，证明了其卓越的计算效率。
• 当约一半节点为CSMC、另一半为SMC时，节点间的切换概率达到最大，验证了经验性规则。
• 该方法原生支持分布式计算，仅需极少通信，因此特别适合并行与高性能计算环境。