[論文レビュー] Tree-based Particle Smoothing Algorithms in a Hidden Markov Model

Dong Ding, Axel Gandy|arXiv (Cornell University)|Aug 25, 2018

Target Tracking and Data Fusion in Sensor Networks参考文献 21被引用数 3

ひとこと要約

本稿では、隠れマルコフモデルにおける連合平滑分布の推定に、分割統治型逐次モンテカルロを用いた木構造ベースのパーティクルスムージング手法（TPS）を提案する。フィルタリングまたはスムージング推定に基づく中間的ターゲット分布を構築することで、従来手法に比べて安定的かつ低複雑性のサンプリングを実現し、特に遷移分散が大きい非線形モデルにおいて精度が向上する。

ABSTRACT

We provide a new strategy built on the divide-and-conquer approach by Lindsten et al. (2017) to investigate the smoothing problem in a hidden Markov model. We employ this approach to decompose a hidden Markov model into sub-models with intermediate target distributions based on an auxiliary tree structure and produce independent samples from the sub-models at the leaf nodes towards the original model of interest at the root. We review the target distribution in the sub-models suggested by Lindsten et al. and propose two new classes of target distributions, which are the estimates of the (joint) filtering distributions and the (joint) smoothing distributions. The first proposed type is straightforwardly constructible by running a filtering algorithm in advance. The algorithm using the second type of target distributions has an advantage of roughly retaining the marginals of all random variables invariant at all levels of the tree at the cost of approximating the marginal smoothing distributions in advance. We further propose the constructions of these target distributions using pre-generated Monte Carlo samples. We show empirically the algorithms with the proposed intermediate target distributions give stable and comparable results as the conventional smoothing methods in a linear Gaussian model and a non-linear model.

研究の動機と目的

• 正確な解が得られない隠れマルコフモデルにおける効率的かつ高精度なスムージングの課題に対処すること。
• 通常のパーティクルスムージング手法がサンプルサイズに二次的に依存する傾向があるため、パスの崩壊と高い計算複雑性を克服すること。
• 状態空間の二分木分解と中間的ターゲット分布を用いた、柔軟で非逐次的なスムージング手法の開発。
• フィルタリングまたはスムージング推定を中間的ターゲットとして用いることで、重要度サンプリングにおける提案品質を向上させること。
• 従来のパーティクルスムージングと比較して、計算負担を低減しつつスケーラブルで安定的かつ高精度なスムージングを実現すること。

提案手法

• 状態空間の二分木構造を用いて、連合スムージング分布を部分モデルに分解し、リーフノードを個々の状態、内部ノードを状態ブロックとして定義する。
• 非リーフノードにおける中間的ターゲット分布を、非正規化尤度（TPS-L）、フィルタリング分布（TPS-EF）、またはスムージング分布（TPS-ES）に基づいて定義する。
• 逐次的リサンプリングとマージを重要度サンプリングを用いて実行し、リーフノードからルートノードへと段階的に完全なスムージング分布を近似する。
• 事前に生成されたモンテカルロサンプルから、パラメトリック（例：正規近似）またはノンパラメトリック（例：区分定数密度推定）手法を用いて中間的ターゲットを構築する。
• 各レベルにおけるパーティクル数を調整することで計算コストを制御でき、サンプルサイズに対して線形の複雑性を達成できる。
• 特にTPS-ESにおいても、各レベルでの周辺分布の一貫性を保つバックワード伝播戦略を実装する。

実験結果

リサーチクエスチョン

• RQ1 木構造の非中間的ターゲットを用いた分割統治型アプローチは、HMMにおけるパーティクルスムージングの安定性と効率性を向上させ得るか？
• RQ2 フィルタリング、スムージング、尤度に基づく異なる中間的ターゲット分布は、スムージングの精度と計算コストにどのように影響を与えるか？
• RQ3 中間的ターゲットのパラメトリックまたはノンパラメトリック推定は、重要度サンプリングステップにおける提案品質をどの程度向上させるか？
• RQ4 提案された木構造ベースの手法は、特に非線形モデルにおいて、平均二乗誤差およびコルモゴロフ–スミルノフ統計量の観点から、従来のパーティクルスムージングと比較して優れているか？
• RQ5 線形計算量を達成しつつ、二次的計算量を要するスムージングと同等の精度を維持できるか？

主な発見

• 線形ガウスモデルではTPS-EF（フィルタリング分布を推定）が最小の平均二乗誤差を示し、非線形モデルでは一貫して最小の平均コルモゴロフ–スミルノフ統計量を達成した。
• TPS-ES（スムージング分布を推定）は真のスムージング分布に最も良好に近づき、TPS-EFよりも顕著に低いコルモゴロフ–スミルノフ統計量を示したが、計算コストが高かった。
• TPS-L（尤度に基づくターゲット）は線形モデルでは最小の誤差を示したが、初期提案品質が低いため非線形設定では極めて不安定な性能を示した。
• 遷移分散が観測ノイズに比べて大きい非線形モデルでは、TPS-EFが他のアルゴリズムを著しく上回り、モデル不適合に対しても頑健であることが示された。
• パラメトリックおよびノンパラメトリックな中間的ターゲットの構築により、安定的かつ高精度なスムージングが実現でき、特にノンパラメトリック手法は非線形状況で優れた性能を示した。
• TPSの全体的な計算複雑性は、サンプルサイズに対して線形に低減可能であり、二次的複雑性を要する標準的手法に比べて顕著な利点を有する。