[论文解读] Tree-based Particle Smoothing Algorithms in a Hidden Markov Model

Dong Ding, Axel Gandy|arXiv (Cornell University)|Aug 25, 2018

Target Tracking and Data Fusion in Sensor Networks参考文献 21被引用 3

一句话总结

本文提出了一种基于树结构的粒子平滑算法（TPS），利用分治法的顺序蒙特卡洛方法，估计隐马尔可夫模型中的联合平滑分布。通过基于滤波或平滑估计构建中间目标分布，TPS 实现了稳定、低复杂度的采样，并在非线性模型中，尤其在转移方差较高的情况下，相比传统方法具有更高的准确性。

ABSTRACT

We provide a new strategy built on the divide-and-conquer approach by Lindsten et al. (2017) to investigate the smoothing problem in a hidden Markov model. We employ this approach to decompose a hidden Markov model into sub-models with intermediate target distributions based on an auxiliary tree structure and produce independent samples from the sub-models at the leaf nodes towards the original model of interest at the root. We review the target distribution in the sub-models suggested by Lindsten et al. and propose two new classes of target distributions, which are the estimates of the (joint) filtering distributions and the (joint) smoothing distributions. The first proposed type is straightforwardly constructible by running a filtering algorithm in advance. The algorithm using the second type of target distributions has an advantage of roughly retaining the marginals of all random variables invariant at all levels of the tree at the cost of approximating the marginal smoothing distributions in advance. We further propose the constructions of these target distributions using pre-generated Monte Carlo samples. We show empirically the algorithms with the proposed intermediate target distributions give stable and comparable results as the conventional smoothing methods in a linear Gaussian model and a non-linear model.

研究动机与目标

• 解决在精确解不可行的情况下，隐马尔可夫模型中高效且准确平滑的挑战。
• 克服标准粒子平滑方法中路径退化和计算复杂度高的问题，这些方法通常随样本量呈二次方增长。
• 通过状态空间的二叉树分解和中间目标分布，开发一种灵活的非序列平滑方法。
• 通过将滤波或平滑估计作为中间目标，提升重要性采样中的提案质量。
• 实现可扩展、稳定且准确的平滑，相比传统粒子平滑器，计算负担显著降低。

提出的方法

• 使用辅助二叉树结构将联合平滑分布分解为子模型，叶节点表示单个状态，内部节点表示状态块。
• 在非叶节点定义中间目标分布，基于未归一化的似然（TPS-L）、滤波分布（TPS-EF）或平滑分布（TPS-ES）。
• 通过重要性采样进行顺序重采样与合并，将样本从叶节点向根节点传播，逐步逼近完整的平滑分布。
• 利用参数化方法（如正态近似）或非参数化方法（如分段常数密度估计）从预先生成的蒙特卡洛样本中构建中间目标。
• 通过调节每层的粒子数量，调整计算成本，实现在样本量上的线性复杂度。
• 采用向后传播策略实现算法，确保树各层之间的边际分布一致性，尤其在 TPS-ES 中表现显著。

实验结果

研究问题

• RQ1 基于树结构的中间目标的分治方法是否能提升 HMM 中粒子平滑的稳定性和效率？
• RQ2 基于滤波、平滑或似然的中间目标分布，如何影响平滑的准确性和计算成本？
• RQ3 对中间目标的参数化或非参数化估计在多大程度上能提升重要性采样步骤中的提案质量？
• RQ4 所提出的基于树的算法是否在均方误差和柯尔莫哥洛夫-斯米尔诺夫统计量方面优于传统粒子平滑器，尤其在非线性模型中？
• RQ5 该方法是否能在保持与二次复杂度平滑器相当的准确性的同时，实现样本量的线性计算复杂度？

主要发现

• 在线性高斯模型中，TPS-EF（估计滤波分布）产生了最小的均方误差；在非线性模型中，其平均柯尔莫哥洛夫-斯米尔诺夫统计量始终最低。
• TPS-ES（估计平滑分布）对真实平滑分布的逼近效果最佳，其柯尔莫哥洛夫-斯米尔诺夫统计量显著低于 TPS-EF，尽管计算成本更高。
• TPS-L（基于似然的目标）在线性模型中误差最小，但在非线性环境下因初始提案质量差而表现出高度不稳定性。
• 在转移方差相对于观测噪声较高的非线性模型中，TPS-EF 显著优于其他算法，表现出对模型误设的强鲁棒性。
• 中间目标的参数化与非参数化构造实现了稳定且准确的平滑，其中非参数方法在非线性场景中表现尤为出色。
• TPS 的总体计算复杂度可降低为样本量的线性关系，相比标准粒子平滑器的二次复杂度具有显著优势。