[论文解读] On the use of backward simulation in particle Markov chain Monte Carlo methods

Fredrik Lindsten, Thomas B. Schön|arXiv (Cornell University)|Oct 13, 2011

Bayesian Methods and Mixture Models参考文献 27被引用 16

一句话总结

本文提出粒子吉布斯后向模拟（PG-BSi），一种改进的PMCMC方法，显著提升了在非线性、非高斯状态空间模型中进行贝叶斯推断时的混合性能与鲁棒性，尤其在粒子数较少或数据集较大时表现更优。通过将后向模拟整合到粒子吉布斯采样器中，该方法减少了退化现象并增强了收敛性，在具有挑战性的推断任务中优于标准粒子吉布斯及其他PMCMC变体。

ABSTRACT

Recently, Andrieu, Doucet and Holenstein (2010) introduced a general framework for using particle filters (PFs) to construct proposal kernels for Markov chain Monte Carlo (MCMC) methods. This framework, termed Particle Markov chain Monte Carlo (PMCMC), was shown to provide powerful methods for joint Bayesian state and parameter inference in nonlinear/non-Gaussian state-space models. However, the mixing of the resulting MCMC kernels can be quite sensitive, both to the number of particles used in the underlying PF and to the number of observations in the data. In the discussion following (Andrieu et al., 2010), Whiteley suggested a modified version of one of the PMCMC samplers, namely the particle Gibbs (PG) sampler, and argued that this should improve its mixing. In this paper we explore the consequences of this modification and show that it leads to a method which is much more robust to a low number of particles as well as a large number of observations. Furthermore, we discuss how the modified PG sampler can be used as a basis for alternatives to all three PMCMC samplers derived in (Andrieu et al., 2010). We evaluate these methods on several challenging inference problems in a simulation study. One of these is the identification of an epidemiological model for predicting influenza epidemics, based on search engine query data.

研究动机与目标

• 解决在粒子数较少或数据集较大时，标准粒子吉布斯（PG）采样器在粒子马尔可夫链蒙特卡洛（PMCMC）方法中混合性能差的问题。
• 探讨Whiteley的后向模拟改进对PG的影响，展示其鲁棒性与性能提升。
• 将后向模拟框架从PG扩展至其他PMCMC采样器，构建PMMH、PIMH与PG的改进版本。
• 提供一种实用且计算高效的PMCMC替代方法，在高计算约束下仍能保持准确性。

提出的方法

• 提出粒子吉布斯后向模拟（PG-BSi），结合粒子滤波与后向采样，从重采样的祖先中重建完整的状态轨迹。
• 利用后向模拟在粒子滤波后重采样祖先谱系，提升所采样轨迹的多样性与准确性。
• 推导祖先索引与粒子轨迹的联合后验分布，确保方法正确地目标于后验分布。
• 将后向模拟步骤应用于PG采样器，通过依赖所有粒子及其权重来修改祖先采样过程。
• 通过在提议机制中引入后向模拟，将PG-BSi框架扩展至PMMH与PIMH采样器，构建其改进版本。
• 采用重要性采样与重采样技术，保持权重的正确性，避免在高维或长时序问题中出现退化。

实验结果

研究问题

• RQ1 在粒子数较少或观测集较大时，后向模拟能否显著改善粒子吉布斯采样器的混合性能？
• RQ2 PG-BSi在收敛速度与准确性方面与标准PG及其他PMCMC方法相比表现如何？
• RQ3 后向模拟框架能否推广至其他PMCMC采样器（如PMMH与PIMH）以提升其鲁棒性？
• RQ4 PG-BSi在何种理论条件下可保证遍历性并收敛至真实后验分布？
• RQ5 在具有强状态-参数依赖关系的模型中，PG-BSi在哪些类型模型中优于标准PMCMC方法？

主要发现

• PG-BSi在粒子数较少时，相比标准粒子吉布斯，表现出显著改善的混合性能与鲁棒性。
• 即使在观测数量庞大的情况下，该方法仍能保持良好性能，而标准PG则因退化与混合差而表现不佳。
• 模拟研究显示，PG-BSi在具有挑战性的推断任务中优于标准PG，包括从搜索引擎查询数据中识别季节性流感疫情模型。
• 后向模拟方法可在非线性、非高斯状态空间模型中实现状态与参数的有效联合推断，且无需使用大量粒子。
• PG-BSi在标准假设下被证明具有遍历性与收敛性，理论保证基于平稳性与不可约性证明。
• 在参数与状态依赖较强的情况下，PG-BSi为PMMH与PIMH提供了可行的替代方案，展现出更优的混合性能与更快的收敛速度。