[論文レビュー] Supplement paper to "Online Expectation Maximization based algorithms for inference in hidden Markov models"

Sylvain Le Corff, Gersende Fort|arXiv (Cornell University)|Aug 20, 2011

Target Tracking and Data Fusion in Sensor Networks参考文献 4被引用数 6

ひとこと要約

この補足論文は、隠れマルコフモデルにおけるオンライン期待最大化（EM）アルゴリズム、特に確率的EMのバンドル（BOEM）およびその粒子フィルタリングに基づく変種について、理論的基盤と数値的妥当性を提供する。弱い混合性および正則性条件のもとで、平均化BOEMアルゴリズムが真のパラメータにほとんど確実に収束することを確立し、数値結果は、確率的ボラティリティモデルにおける再帰的最尤推定法およびオンラインEMと同等の性能を示している。

ABSTRACT

This is a supplementary material to the paper "Online Expectation Maximization based algorithms for inference in hidden Markov models". It contains further technical derivations and additional simulation results.

研究の動機と目的

• 親論文[7]で提示された隠れマルコフモデルにおけるオンラインEMアルゴリズムの理論的分析を支援する技術的証明および補助的結果を提供すること。
• モデルおよび観測過程の弱い依存性と正則性条件のもとで、平均化BOEMアルゴリズムが真のパラメータにほとんど確実に収束することを確立すること。
• 特に正確な計算が困難な確率的ボラティリティモデルの文脈において、モンテカルロシミュレーションを用いて確率的BOEMアルゴリズムの性能を検証すること。
• 平均化BOEMの収束特性を、ポリャク＝ルッパーティ averaged 再帰的最尤（RML）手続きおよびオンラインEMアルゴリズムと比較すること。
• BOEMフレームワークにおける粒子フィルタリング近似が、正規化された対数尤度関数の定常点に収束することを保証し、近似誤差に対して理論的制御を可能にすること。

提案手法

• H1–H7の仮定の下で理論的結果を導出する。これらには、十分統計量および観測密度に関する正則性、混合性、モーメント条件が含まれる。
• ブロック $ n $ における平滑化された十分統計量を表す中間量 $ S_n = \bar{S}_{\tau_n}^{\chi_{n-1},T_{n-1}}(\theta_{n-1}, \mathbf{Y}) $ を導入し、そのモンテカルロ近似 $ \widetilde{S}_n $ を定義する。
• ブロックサイズ $ \tau_n = \lfloor c n^a \rfloor $ およびステップサイズ $ \gamma_n $ を用いたBOEMアルゴリズムを採用し、指定された減衰率のもとで収束を保証する。
• 正確な計算が不可能な場合、特に確率的ボラティリティモデルにおいて、フィルタリングおよび平滑化分布の近似に粒子フィルタリングを適用する。
• ポリャク＝ルッパーティ平均化スキームを用いて、確率的アルゴリズムの収束性を向上させ、定常点にほとんど確実に収束することを保証する。
• 100回のモンテカルロランの平均中央値および四分位数プロットを用いて、平均化BOEMと平均化RMLおよびオンラインEMアルゴリズムを比較する。

実験結果

リサーチクエスチョン

• RQ1 隠れマルコフモデルにおいて、平均化BOEMアルゴリズムが真のパラメータにほとんど確実に収束する条件は何か？
• RQ2 収束速度および精度の観点から、確率的BOEMアルゴリズムの性能は、再帰的最尤推定法およびオンラインEMと比べてどうなるか？
• RQ3 BOEMフレームワークにおける粒子フィルタリング近似は、真のパラメータへの理論的収束保証を維持できるか？
• RQ4 ブロックサイズ $ \tau_n $ およびステップサイズ $ \gamma_n $ は、アルゴリズムの収束速度および安定性にどのような影響を与えるか？
• RQ5 潜在過程に強い依存性（例：$ \phi = 0.8 $ や $ \phi = 0.95 $ の確率的ボラティリティモデル）がある場合、アルゴリズムはどのように振る舞うか？

主な発見

• 仮定H1–H7のもとで、平均化BOEMアルゴリズムは、$ \beta $-混合性による弱い依存性および十分統計量のモーメント条件を満たす条件下で、真のパラメータにほとんど確実に収束する。
• 数値結果から、平均化BOEMと平均化RML手続きは、パラメータ $ v $ および $ m(1,2) $ の推定において類似した収束行動を示し、両者とも10,000観測後には安定した推定が達成されている。
• パラメータ $ \phi = 0.8 $ の確率的ボラティリティモデルにおいて、平均化オンラインEMと平均化BOEMは、$ n = 100k $ 観測時点でのボックスプロットから、同等の推定性能を示している。
• $ \phi = 0.95 $ の場合、両アルゴリズムは安定した収束を維持しており、潜在状態過程における高い持続性に対してもロバストであることが示された。
• 粒子フィルタリングに基づく確率的BOEMは、正規化された対数尤度関数の定常点に収束を保ち、近似誤差に対して理論的制御が可能である。その条件は $ \|S_n - \widetilde{S}_n\|_p = O(\tau_{n+1}^{-b}) $（$ b \geq (a+1)/(2a) $）を満たす。
• 結果から、確率的BOEMアルゴリズムは、モンテカルロ近似を用いていながらも、正確なBOEMの漸近的挙動を継承しており、計算が困難なモデルへの応用を支持する。