[论文解读] Particle Metropolis adjusted Langevin algorithms for state space models

Christopher Nemeth, Paul Fearnhead|arXiv (Cornell University)|Feb 4, 2014

Markov Chains and Monte Carlo Methods参考文献 33被引用 8

一句话总结

本文提出了一种用于状态空间模型的粒子马尔可夫链蒙特卡洛-调整的朗之万算法（pMALA），通过利用粒子滤波器估计的梯度信息，提升了MCMC采样效率。通过采用Nemeth等人（2013）提出的计算高效的梯度估计方法，该方法降低了自相关性，缩短了预烧期，并提高了后验样本之间的平方跳跃距离，相较于标准的随机游走Metropolis提议方法具有优势。

ABSTRACT

Particle MCMC is a class of algorithms that can be used to analyse state-space models. They use MCMC moves to update the parameters of the models, and particle filters to propose values for the path of the state-space model. Currently the default is to use random walk Metropolis to update the parameter values. We show that it is possible to use information from the output of the particle filter to obtain better proposal distributions for the parameters. In particular it is possible to obtain estimates of the gradient of the log posterior from each run of the particle filter, and use these estimates within a Langevin-type proposal. We propose using the recent computationally efficient approach of Nemeth et al. (2013) for obtaining such estimates. We show empirically that for a variety of state-space models this proposal is more efficient than the standard random walk Metropolis proposal in terms of: reducing autocorrelation of the posterior samples, reducing the burn-in time of the MCMC sampler and increasing the squared jump distance between posterior samples.

研究动机与目标

• 通过MCMC方法提升状态空间模型中参数推断的效率。
• 解决标准随机游走Metropolis提议在粒子MCMC中应用时的局限性。
• 利用粒子滤波器提供的梯度信息，构建更优的提议分布。
• 降低后验抽样中的自相关性与预烧期时间。
• 增加后验样本之间的平方跳跃距离，以提升混合效率。

提出的方法

• 在每次迭代中利用粒子滤波器估计后验对数密度的梯度。
• 应用Nemeth等人（2013）提出的计算高效梯度估计方法，以减少计算开销。
• 将这些梯度估计结果整合到一种朗之万型提议分布中，用于参数更新。
• 将粒子马尔可夫链蒙特卡洛-调整MCMC框架与朗之万动力学相结合，以提升提议质量。
• 使用所得提议分布更新模型参数，同时保持细致平衡性。
• 采用Metropolis-Hastings校正以确保后验分布的精确采样。

实验结果

研究问题

• RQ1 粒子滤波器提供的梯度估计是否能提升状态空间模型中MCMC采样的效率？
• RQ2 与标准随机游走Metropolis方法相比，所提出的pMALA方法在降低自相关性方面表现如何？
• RQ3 pMALA方法在后验抽样中能将预烧期缩短到何种程度？
• RQ4 使用梯度信息是否能增加后验样本之间的平方跳跃距离？
• RQ5 该方法在不同结构的状态空间模型中是否具备可扩展性与有效性？

主要发现

• 所提出的pMALA方法相较于标准随机游走Metropolis方法，显著降低了后验样本的自相关性。
• 该方法缩短了MCMC采样器的预烧期，从而加快了收敛速度。
• 后验样本之间的平方跳跃距离得到提升，表明混合效率有所改善。
• 利用粒子滤波器提供的梯度估计显著提升了提议质量，且未带来显著的计算代价。
• 实证结果表明，该方法在多个状态空间模型中均表现出一致的性能提升。
• 该方法通过Metropolis-Hastings校正保持了后验分布的精确采样，同时优化了采样动力学。