[论文解读] Particle Gibbs with Ancestor Sampling

Fredrik Lindsten, Michael I. Jordan+1 more|arXiv (Cornell University)|Jan 3, 2014

Bayesian Methods and Mixture Models参考文献 31被引用 122

一句话总结

本文提出了一种新型粒子马尔可夫链蒙特卡洛算法——祖先采样粒子吉布斯采样（PGAS），通过用单次前向祖先采样步骤替代后向模拟，显著提升了状态空间模型中的混合性能。PGAS 即使在粒子数较少时也能实现快速混合，支持在非马尔可夫及复杂概率模型中高效推理，其在准确性和鲁棒性方面优于现有方法（如 PGBS）。

ABSTRACT

Particle Markov chain Monte Carlo (PMCMC) is a systematic way of combining the two main tools used for Monte Carlo statistical inference: sequential Monte Carlo (SMC) and Markov chain Monte Carlo (MCMC). We present a novel PMCMC algorithm that we refer to as particle Gibbs with ancestor sampling (PGAS). PGAS provides the data analyst with an off-the-shelf class of Markov kernels that can be used to simulate the typically high-dimensional and highly autocorrelated state trajectory in a state-space model. The ancestor sampling procedure enables fast mixing of the PGAS kernel even when using seemingly few particles in the underlying SMC sampler. This is important as it can significantly reduce the computational burden that is typically associated with using SMC. PGAS is conceptually similar to the existing PG with backward simulation (PGBS) procedure. Instead of using separate forward and backward sweeps as in PGBS, however, we achieve the same effect in a single forward sweep. This makes PGAS well suited for addressing inference problems not only in state-space models, but also in models with more complex dependencies, such as non-Markovian, Bayesian nonparametric, and general probabilistic graphical models.

研究动机与目标

• 解决在使用少量粒子时，由于顺序蒙特卡洛（SMC）中路径退化导致粒子吉布斯（PG）采样器混合性能差的问题。
• 开发一种方法，实现后向模拟在 PG 中的优势，而无需显式执行后向传递，从而可应用于具有非马尔可夫依赖关系的复杂模型。
• 提供一种统一的、即插即用的 MCMC 核心算法，用于状态空间模型与通用概率图模型中高维状态轨迹的推断。
• 通过在较少粒子下实现快速混合，降低基于 SMC 的 MCMC 的计算负担。
• 提出一种针对非马尔可夫模型的截断策略，以最小化误差，尤其与 PGBS 相比更具优势。

提出的方法

• PGAS 使用单次前向 SMC 扫描并结合祖先采样构建马尔可夫核，替代 PGBS 中的后向模拟步骤。
• 祖先采样在每一步时间点根据粒子权重和转移概率重新采样粒子的祖先，从而提升轨迹多样性。
• 该算法确保目标后验分布对马尔可夫核保持不变，维持 MCMC 链的有效性。
• 采用后向兼容的 SMC 框架，粒子轨迹向前传播，祖先索引通过基于 SMC 权重和提议密度的条件概率进行重采样。
• 该方法引入一种新颖的非马尔可夫模型截断策略，限制记忆时域以降低计算成本，同时控制误差。
• 理论分析证明了 PGAS 核的统一遍历性，支持强收敛性保证。

实验结果

研究问题

• RQ1 能否在单次前向扫描中通过祖先采样实现与后向模拟相同的混合优势，而无需显式执行后向传递？
• RQ2 在非马尔可夫模型中使用少量粒子时，PGAS 相较于 PGBS 在混合性能与准确性方面表现如何？
• RQ3 PGAS 是否可应用于超越标准状态空间模型的复杂依赖关系模型，如贝叶斯非参数模型与通用图模型？
• RQ4 截断对使用 PGAS 进行非马尔可夫模型推断的准确性与计算成本有何影响？
• RQ5 在一般模型假设下，PGAS 是否保持统一遍历性与理论有效性？

主要发现

• 在数值实验中，PGAS 的准确度最高可达 PGBS 的一个数量级，尤其在粒子数较少时表现更优。
• 祖先采样过程即使在粒子数较少时也能实现马尔可夫核的快速混合，显著降低基于 SMC 的 MCMC 的计算负担。
• PGAS 在截断误差方面优于 PGBS，截断的影响在 PGAS 中要小得多。
• 理论分析证实，PGAS 生成的马尔可夫核具有统一遍历性，确保了强收敛性质。
• 该方法适用于非马尔可夫潜变量模型，将粒子 MCMC 的适用范围扩展至标准状态空间模型之外。
• 由于其单次前向扫描的设计，PGAS 可在复杂模型（如贝叶斯非参数模型与通用概率图模型）中实现高效推理。