[论文解读] Ancestor Sampling for Particle Gibbs

Fredrik Lindsten, Michael I. Jordan+1 more|arXiv (Cornell University)|Oct 25, 2012

Gaussian Processes and Bayesian Inference参考文献 20被引用 28

一句话总结

本文提出了一种新型粒子MCMC方法——带祖先抽样的粒子吉布斯采样（PG-AS），该方法在无需显式反向传播的情况下，实现了类似反向模拟的混合性能提升。通过结合祖先抽样与截断策略，PG-AS显著降低了非马尔可夫状态空间模型中的混合误差，在模拟研究中相较于PG-BS实现了高达一个数量级的精度提升。

ABSTRACT

We present a novel method in the family of particle MCMC methods that we refer to as particle Gibbs with ancestor sampling (PG-AS). Similarly to the existing PG with backward simulation (PG-BS) procedure, we use backward sampling to (considerably) improve the mixing of the PG kernel. Instead of using separate forward and backward sweeps as in PG-BS, however, we achieve the same effect in a single forward sweep. We apply the PG-AS framework to the challenging class of non-Markovian state-space models. We develop a truncation strategy of these models that is applicable in principle to any backward-simulation-based method, but which is particularly well suited to the PG-AS framework. In particular, as we show in a simulation study, PG-AS can yield an order-of-magnitude improved accuracy relative to PG-BS due to its robustness to the truncation error. Several application examples are discussed, including Rao-Blackwellized particle smoothing and inference in degenerate state-space models.

研究动机与目标

• 为解决在SMC中由于路径退化导致的非马尔可夫状态空间模型中粒子吉布斯（PG）方法混合性能差的问题。
• 开发一种方法，实现类似反向模拟的优势，而无需单独的反向传播步骤。
• 提出一种专为非马尔可夫模型设计的截断策略，以减少近似误差。
• 与基于反向模拟的现有方法相比，提升计算效率并降低内存使用。
• 在具有挑战性的推断问题中实现稳健性能，包括退化模型与非马尔可夫模型。

提出的方法

• 提出带祖先抽样的粒子吉布斯采样（PG-AS），将祖先抽样整合到粒子吉布斯框架中，通过单次前向扫描实现类似反向模拟的效果。
• 提出一种新颖的后向权重截断策略，限制计算成本的同时保持精度，尤其适用于非马尔可夫模型。
• 通过将潜变量视为条件充分统计量，将该方法应用于Rao-Blackwellized粒子平滑与退化状态空间模型的推断。
• 采用针对联合平滑密度 $ p(x_{1:T} mid heta, y_{1:T}) $ 的顺序蒙特卡罗（SMC）采样器，其中祖先抽样替代了显式的反向模拟。
• 实现自适应截断，参数为 $ au $ 和 $ \bar{\gamma} $，动态调整截断水平以在精度与效率之间取得平衡。
• 使用重要性重采样与祖先谱系追踪生成完整状态轨迹，并在辅助SMC框架中通过调整乘数调整权重。

实验结果

研究问题

• RQ1 能否通过祖先抽样在无需显式反向传播的情况下，实现类似反向模拟的混合性能改进？
• RQ2 后向权重的截断在非马尔可夫状态空间模型中的推断精度方面有何影响？
• RQ3 在非马尔可夫设定下，PG-AS是否比PG-BS对截断误差更具鲁棒性？
• RQ4 PG-AS能否高效应用于标准PG方法失效的退化与非马尔可夫模型？
• RQ5 与PG-BS相比，PG-AS是否具备更好的内存效率与实现简洁性？

主要发现

• 在涉及非马尔可夫模型的模拟研究中，PG-AS相较于PG-BS实现了高达一个数量级的精度提升。
• 该方法对截断误差表现出强鲁棒性，平均截断水平为2.3，且无需手动调节 $ \gamma $ 和 $ \tau $。
• PG-AS能够准确估计目标轨迹与参数 $ \theta $，仅使用5个粒子即可达到使用5000个粒子的PMMH方法的性能。
• 真实与近似后向采样分布之间的Kullback-Leibler散度被界定为 $ A \frac{e^{-c(p+1)} - e^{-c(M+1)}}{1 - e^{-c}} $，确保了理论收敛性。
• 通过消除对中间反向模拟状态存储的需求，PG-AS在内存使用上更少，实现更简单。
• 该方法适用于广泛模型，包括Rao-Blackwellized平滑与退化状态空间模型，且算法修改极少。