[论文解读] An extended space approach for particle Markov chain Monte Carlo methods

Chris Carter, Eduardo Mendes+1 more|arXiv (Cornell University)|Jun 23, 2014

Markov Chains and Monte Carlo Methods参考文献 7被引用 7

一句话总结

本文提出了一种用于粒子马尔可夫链蒙特卡洛（PMCMC）方法的扩展状态空间方法，通过在每个时间点利用马尔可夫链蒙特卡洛（MCMC）生成额外状态，从而提升状态空间模型的推断性能，同时保持与现有方法相同的梅特罗波利斯接受概率。该方法在平滑和参数推断方面显著提升了混合效率，实证结果表明其收敛速度更快，无效因子更低，优于反向模拟和粒子吉布斯方法。

ABSTRACT

In this paper we consider fully Bayesian inference in general state space models. Existing particle Markov chain Monte Carlo (MCMC) algorithms use an augmented model that takes into account all the variable sampled in a sequential Monte Carlo algorithm. This paper describes an approach that also uses sequential Monte Carlo to construct an approximation to the state space, but generates extra states using MCMC runs at each time point. We construct an augmented model for our extended space with the marginal distribution of the sampled states matching the posterior distribution of the state vector. We show how our method may be combined with particle independent Metropolis-Hastings or particle Gibbs steps to obtain a smoothing algorithm. All the Metropolis acceptance probabilities are identical to those obtained in existing approaches, so there is no extra cost in term of Metropolis-Hastings rejections when using our approach. The number of MCMC iterates at each time point is chosen by the used and our augmented model collapses back to the model in Olsson and Ryden (2011) when the number of MCMC iterations reduces. We show empirically that our approach works well on applied examples and can outperform existing methods.

研究动机与目标

• 开发一种适用于一般非高斯状态空间模型的完整贝叶斯推断方法，其中现有MCMC方法效率低下或需要数值近似。
• 克服现有粒子MCMC方法仅限于粒子滤波输出采样的局限性，通过在扩展模型中引入MCMC生成的状态。
• 在保持与先前PMCMC方法相同梅特罗波利斯接受概率的同时，实现对状态轨迹更灵活高效的采样。
• 改善马尔可夫链蒙特卡洛采样中状态与参数推断的混合效果，降低集成自相关时间（IACT）。
• 提供一个统一框架，推广现有方法如反向模拟和粒子吉布斯，支持用户控制每个时间点的MCMC迭代次数。

提出的方法

• 构建一个扩展模型，包含粒子滤波输出、祖先追踪的索引以及每个时间点的MCMC生成状态。
• 使用顺序蒙特卡洛近似状态向量的后验分布，每个时间点运行MCMC以生成新的状态值。
• 定义扩展空间上的联合分布，使得所采样状态的边缘分布与状态向量的真实后验分布一致。
• 在扩展空间上采用粒子独立梅特罗波利斯-黑斯廷斯或粒子吉布斯采样，确保与现有PMCMC方法具有相同的接受概率。
• 通过在反向模拟步骤中生成新的状态轨迹实现平滑，避免依赖粒子滤波输出。
• 允许用户调节每个时间点的MCMC迭代次数，当迭代次数减少至1时，该方法退化为Olsson和Ryden（2011）的方法。

实验结果

研究问题

• RQ1 在每个时间点使用MCMC生成的状态是否能改善粒子MCMC采样在状态空间模型中的混合效果并降低无效性？
• RQ2 扩展状态空间方法是否在保持与现有PMCMC方法相同梅特罗波利斯接受概率的同时，实现更灵活的状态采样？
• RQ3 与反向模拟和粒子吉布斯方法相比，所提方法在集成自相关时间（IACT）方面的性能如何？
• RQ4 该方法是否能在使用更少粒子的情况下实现更低的IACT，优于现有方法？
• RQ5 每个时间点MCMC迭代次数的变化对采样效率和收敛速度有何影响？

主要发现

• 在随机波动率模型中，扩展状态粒子吉布斯采样器在N=5个粒子和C=10次MCMC移动时达到最小无效因子（IACT）6.04，优于基线方法。
• 在二项回归模型中，新方法在N=40和C=30时达到最小IACT，而反向模拟方法需N≈250个粒子才能达到类似性能。
• 与反向模拟方法相比，扩展状态方法在粒子数增加时更快速地降低IACT，表明其收敛至最优效率的速度更快。
• 在达到相同IACT水平时，Julia实现显示该方法的计算时间相比反向模拟实现了2倍加速。
• 该方法保持了与现有PMCMC方法相同的梅特罗波利斯接受概率，确保在增强状态空间探索的同时无额外拒绝成本。
• 实证结果证实，该方法生成了更高效的马尔可夫链，混合效果更优，尤其在高维或非高斯状态空间模型中表现显著。