[论文解读] An invitation to sequential Monte Carlo samplers

Chenguang Dai, Jeremy Heng+2 more|arXiv (Cornell University)|Jul 23, 2020

Bayesian Modeling and Causal Inference被引用 7

一句话总结

本文提出顺序蒙特卡洛采样器（SMCS）作为MCMC和重要性采样在近似复杂后验分布及其归一化常数时的一种灵活且可扩展的替代方法。通过将顺序重要性采样与沿中间分布路径的马尔可夫链移动相结合，SMCS实现了并行计算、对多模态目标的有效探索，并能无偏估计边缘似然。

ABSTRACT

Statisticians often use Monte Carlo methods to approximate probability distributions, primarily with Markov chain Monte Carlo and importance sampling. Sequential Monte Carlo samplers are a class of algorithms that combine both techniques to approximate distributions of interest and their normalizing constants. These samplers originate from particle filtering for state space models and have become general and scalable sampling techniques. This article describes sequential Monte Carlo samplers and their possible implementations, arguing that they remain under-used in statistics, despite their ability to perform sequential inference and to leverage parallel processing resources among other potential benefits.

研究动机与目标

• 解决MCMC和重要性采样在高维、多模态或复杂目标分布下的局限性。
• 提供一个统一的框架，将重要性采样与MCMC整合到顺序结构中，以提升采样效率与可扩展性。
• 实现归一化常数的估计，并支持顺序推断，这对贝叶斯模型比较和动态状态估计至关重要。
• 通过突出SMCS在并行计算、适应性与对复杂后验的鲁棒性方面的优势，推动其在统计学中的应用。
• 通过流行病学建模和层次贝叶斯推断等实际案例，展示SMCS的实用价值。

提出的方法

• 构建一系列连接简单初始分布与目标后验的中间分布，形成分布路径。
• 使用带重采样的顺序重要性采样，将粒子沿路径传播，保持对演化目标分布的加权表示。
• 在每一步中引入马尔可夫链移动，以更新粒子并改善混合，尤其在高维或多模态空间中。
• 通过路径上各步的边际似然乘积估计目标分布的归一化常数，从而实现模型证据计算。
• 通过运行多个独立的SMCS链或在处理器之间分发粒子更新，利用并行计算。
• 采用自适应策略调整分布路径与提议核，以改善收敛性并减少退化现象。

实验结果

研究问题

• RQ1 顺序蒙特卡洛采样器如何克服MCMC和重要性采样在高维和多模态后验分布中的局限性？
• RQ2 SMCS在多大程度上能提供归一化常数的无偏估计？这对贝叶斯模型比较有何益处？
• RQ3 与传统MCMC方法相比，SMCS在高效并行化和顺序推断方面有何优势？
• RQ4 部署SMCS时面临哪些实际挑战？如何通过自适应设计与软件支持加以缓解？
• RQ5 SMCS在真实统计问题中的表现如何，例如状态空间模型中的参数估计与流行病学建模？

主要发现

• SMCS能提供归一化常数的无偏估计，这对贝叶斯模型证据与模型比较至关重要。
• 该方法通过利用中间分布与MCMC更新步骤，能高效地从复杂、多模态的后验中采样。
• SMCS非常适用于并行化，可在多个处理器或机器上实现可扩展计算。
• 实证结果表明，SMCS可估计流行病模型中初始感染时间 $ t_0 $ 的边缘似然，其峰值出现在 $ t_0 = 0.5 $，表明该值得到强支持。
• 在Stan中使用带有部分后验的自适应SMCS，可在层次模型中实现准确且高效的后验推断。
• 尽管SMCS具有诸多优势，但由于调参复杂性以及与MCMC工具（如Stan）相比软件生态系统的局限性，其应用仍不广泛。