[论文解读] Efficient particle-based online smoothing in general hidden Markov models: the PaRIS algorithm

Jimmy Olsson, Johan Westerborn|arXiv (Cornell University)|Dec 23, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 25被引用 7

一句话总结

本文提出PaRIS，一种针对广义隐马尔可夫模型的新型基于粒子的在线平滑算法，可实现加性泛函 smoothed expectation 的高效线性时间计算。通过每粒子执行多次向后抽样以应对路径退化问题，PaRIS 实现了渐近线性方差增长，并在弱假设下提供了具有证明收敛性与稳定性的中心极限定理。

ABSTRACT

This paper presents a novel algorithm, the particle-based, rapid incremental smoother (PaRIS), for efficient online approximation of smoothed expectations of additive state functionals in general hidden Markov models. The algorithm, which has a linear computational complexity under weak assumptions and very limited memory requirements, is furnished with a number of convergence results, including a central limit theorem. An interesting feature of PaRIS, which samples on-the-fly from the retrospective dynamics induced by the particle filter, is that it requires two or more backward draws per particle in order to cope with degeneracy of the sampled trajectories and to stay numerically stable in the long run with an asymptotic variance that grows only linearly with time.

研究动机与目标

• 解决在精确推断不可行的广义隐马尔可夫模型中在线计算平滑期望的挑战。
• 克服标准粒子平滑器中粒子祖先路径退化这一关键问题，该问题导致轨迹近似效果差且不稳定。
• 开发一种计算复杂度为线性且内存占用极少的算法，以实现在非线性和非高斯状态空间模型中的可扩展、实时平滑。
• 通过收敛结果（包括中心极限定理与方差界）提供理论保证，确保长期数值稳定性。
• 提供一种实用且可实现的方法，能够从粒子滤波器诱导的回溯动态中实时抽样，从而提升序列蒙特卡洛应用中的鲁棒性。

提出的方法

• 提出PaRIS算法，一种基于粒子的快速增量平滑器，利用序列蒙特卡洛（SMC）原理执行在线平滑。
• 引入一种基于接受-拒绝抽样的向后抽样机制，以从粒子滤波器输出中模拟祖先谱系，实现回溯路径重建。
• 要求每粒子执行两次或更多次向后抽样，以缓解路径退化并维持长时间的数值稳定性。
• 使用条件独立随机变量的三角阵列，并应用条件极限定理，以建立渐近正态性与收敛性。
• 利用平滑分布的Feynman-Kac表示，并利用粒子系统中前向与后向转移之间的对偶性。
• 应用一种向后迭代方案，通过修改版的接受-拒绝算法，将权重与祖先索引沿时间反向传播，确保平滑期望估计的一致性与无偏性。

实验结果

研究问题

• RQ1 能否为广义隐马尔可夫模型设计一种在线粒子平滑器，使其计算复杂度为线性且方差随时间有界增长？
• RQ2 如何在不增加计算成本的前提下，有效缓解在线平滑中粒子祖先路径退化问题？
• RQ3 在弱正则性假设下，基于粒子的在线平滑器可建立哪些理论保证，如收敛性与中心极限定理？
• RQ4 该算法能否在仅使用固定数量粒子的前提下，长期保持数值稳定性与精度？
• RQ5 平滑估计量的渐近方差行为如何？其随时间与模型参数的演化规律是怎样的？

主要发现

• PaRIS 在粒子数与时间上均实现线性计算复杂度，使其适用于长序列的可扩展处理。
• 该算法确保渐近方差仅随时间线性增长，相较于朴素平滑器的二次或指数增长，具有显著改进。
• 为平滑估计量建立了中心极限定理，证实了在弱矩条件与混合条件下的渐近正态性。
• 该方法被证明在长时间尺度上具有稳定性，即使存在路径退化，也能实现收敛与有界误差传播。
• 理论分析表明，渐近方差被一个依赖于模型参数（包括谱间隙与压缩率）的常数均匀有界。
• 对于边际平滑，渐近方差被一个与泛函振荡及模型特定常数成比例的常数有界，且极限的显式表达式已被推导得出。