[论文解读] On embedded hidden Markov models and particle Markov chain Monte Carlo methods

Axel Finke, Randal Douc+1 more|arXiv (Cornell University)|Oct 27, 2016

Markov Chains and Monte Carlo Methods参考文献 19被引用 8

一句话总结

本文建立了嵌入式隐马尔可夫模型（EHMM）与粒子马尔可夫链蒙特卡洛（PMCMC）方法之间的正式联系，证明两者均可统一于一个通用的PMCMC框架之下。论文提出了新型的粒子滤波类算法与MCMC方案，用于状态与参数推断，表明经过调优的条件粒子滤波结合局部Metropolis-Hastings移动在高维状态空间模型中显著优于标准滤波器。

ABSTRACT

The embedded hidden Markov model (EHMM) sampling method is a Markov chain Monte Carlo (MCMC) technique for state inference in non-linear non-Gaussian state-space models which was proposed in Neal (2003); Neal et al. (2004) and extended in Shestopaloff and Neal (2016). An extension to Bayesian parameter inference was presented in Shestopaloff and Neal (2013). An alternative class of MCMC schemes addressing similar inference problems is provided by particle MCMC (PMCMC) methods (Andrieu et al. 2009; 2010). All these methods rely on the introduction of artificial extended target distributions for multiple state sequences which, by construction, are such that one randomly indexed sequence is distributed according to the posterior of interest. By adapting the Metropolis-Hastings algorithms developed in the framework of PMCMC methods to the EHMM framework, we obtain novel particle filter (PF)-type algorithms for state inference and novel MCMC schemes for parameter and state inference. In addition, we show that most of these algorithms can be viewed as particular cases of a general PF and PMCMC framework. We compare the empirical performance of the various algorithms on low- to high-dimensional state-space models. We demonstrate that a properly tuned conditional PF with "local" MCMC moves proposed in Shestopaloff and Neal (2016) can outperform the standard conditional PF significantly when applied to high-dimensional state-space models while the novel PF-type algorithm could prove to be an interesting alternative to standard PFs for likelihood estimation in some lower-dimensional scenarios.

研究动机与目标

• 正式建立EHMM与PMCMC方法在非线性、非高斯状态空间模型中进行贝叶斯推断的关联。
• 通过将PMCMC技术适配至EHMM框架，开发新型粒子滤波与MCMC算法。
• 证明EHMM与PMCMC方法均为更广泛统一PMCMC框架下的特例。
• 在低维与高维状态空间模型上评估所提算法的实证性能。
• 表明在高维设定下，经调优的局部条件粒子滤波可显著优于标准滤波器。

提出的方法

• 推导出一个通用扩展目标分布，以统一EHMM与PMCMC方法。
• 将PMCMC的Metropolis-Hastings算法适配至EHMM框架，生成新的MCMC与粒子滤波类算法。
• 在广义PMCMC框架内引入向后抽样与祖先抽样。
• 应用如Shestopaloff与Neal（2016）所提出的条件粒子滤波结合局部MH移动，以改善高维模型中的混合性能。
• 以粒子边缘Metropolis-Hastings（PMMH）与粒子吉布斯（PG）采样器作为统一框架的基础组件。
• 采用向后抽样与祖先重抽样以提升基于粒子的MCMC方案效率。

实验结果

研究问题

• RQ1 EHMM与PMCMC方法能否在单一广义PMCMC框架下实现形式化统一？
• RQ2 在高维状态空间模型中，EHMM与PMCMC算法的性能特征如何比较？
• RQ3 条件粒子滤波中局部Metropolis-Hastings移动是否能显著改善高维下的混合性能并减少权重退化？
• RQ4 向后抽样与祖先抽样在该统一框架内对提升基于粒子的MCMC算法效率起到何种作用？
• RQ5 由此框架导出的新型粒子滤波算法能否作为低维模型中似然估计的高效替代方案？

主要发现

• 经过调优的条件粒子滤波结合局部Metropolis-Hastings移动在高维状态空间模型中显著优于标准条件粒子滤波，大幅减少权重退化。
• 采用局部移动的MCMC粒子滤波的实证有效样本量（ESS）远高于标准滤波器，表明混合性能更优且自相关性更低。
• 局部移动方案中MH核的接受率低于1，表明提案非独立同分布，从而实现更优探索，而标准滤波器始终具有100%接受率。
• 基于标准自举粒子滤波的吉布斯采样器未能充分探索后验支撑，导致自相关性低且混合性能差。
• 核密度估计显示，使用标准粒子滤波的PG采样器在固定迭代次数内未实现充分收敛，表明混合性能不佳。
• 所提出的框架成功统一了EHMM与PMCMC方法，使两类方法在单一理论结构下均可实现向后抽样与祖先抽样。