[論文レビュー] Consistent estimation of the filtering and marginal smoothing distributions in nonparametric hidden Markov models

Yohann de Castro, Élisabeth Gassiat+1 more|arXiv (Cornell University)|Jul 23, 2015

Bayesian Methods and Mixture Models参考文献 60被引用数 21

ひとこと要約

本稿では、観測空間がコンパクトである非パラメトリックな隠れマルコフモデルにおいて、全変動ノルムにおける推定誤差の時間に依存しない一様なバウンドを提供することにより、フィルタリングおよび周辺平滑化分布の一貫した推定を確立する。フィルタリングおよび平滑化誤差のリスクは、パrameter推定器のリスクによって一様に上界で抑えられることを示し、スペクトル法をパラメトリックな設定から非パラメトリックな設定へと拡張する。また、明示的なL2リスクバウンドと収束速度を提示する。

ABSTRACT

In this paper, we consider the filtering and smoothing recursions in nonparametric finite state space hidden Markov models (HMMs) when the parameters of the model are unknown and replaced by estimators. We provide an explicit and time uniform control of the filtering and smoothing errors in total variation norm as a function of the parameter estimation errors. We prove that the risk for the filtering and smoothing errors may be uniformly upper bounded by the risk of the estimators. It has been proved very recently that statistical inference for finite state space nonparametric HMMs is possible. We study how the recent spectral methods developed in the parametric setting may be extended to the nonparametric framework and we give explicit upper bounds for the L2-risk of the nonparametric spectral estimators. When the observation space is compact, this provides explicit rates for the filtering and smoothing errors in total variation norm. The performance of the spectral method is assessed with simulated data for both the estimation of the (nonparametric) conditional distribution of the observations and the estimation of the marginal smoothing distributions.

研究の動機と目的

• 非パラメトリック有限状態HMMにおけるフィルタリングおよび平滑化誤差の時間に依存しない一様な制御を確立すること。
• 最近のスペクトル推定法をパラメトリックなHMMから非パラメトリックなHMMへと拡張すること。
• 非パラメトリックスペクトル推定器のL2リスクに対する明示的な上界を導出すること。
• 観測空間がコンパクトである場合に、全変動ノルムにおけるフィルタリングおよび平滑化誤差の収束速度を特定すること。
• シミュレーションデータを用いて、条件付き観測密度および周辺平滑化分布のスペクトル法の性能を検証すること。

提案手法

• 著者らは、パrameter推定誤差を用いて、フィルタリングおよび平滑化分布の全変動誤差に対する明示的で時間に依存しないバウンドを導出する。
• 彼らは、観測カーネルからの標本固有ベクトルおよび固有値を用いて、非パラメトリックHMMに適応したスペクトル法を活用する。
• この手法は、観測密度をコンパクト空間上の滑らかな関数としてモデル化する非パラメトリック推定フレームワークに依存する。
• 主要な技術的要素として、標本固有ベクトルがその母集団対応物からどれほど逸脱するかを制御する濃度不等式の使用がある。
• このアプローチは、フィルタリングおよび平滑化誤差のリスクを、観測密度のスペクトル推定器のL2リスクと直接的に結びつける。
• 最小限の正則性仮定の下で理論的バウンドを導出し、観測空間のコンパクト性を仮定する。

実験結果

リサーチクエスチョン

• RQ1 パラメータが推定されている場合でも、非パラメトリックHMMにおけるフィルタリングおよび平滑化誤差は、時間にわたって一貫して制御可能か？
• RQ2 非パラメトリック設定において、フィルタリングおよび平滑化の誤差は、パrameter推定の精度にどのように依存するか？
• RQ3 観測空間がコンパクトである場合に、全変動ノルムにおけるフィルタリングおよび平滑化誤差の明示的な収束速度は何か？
• RQ4 パラメトリックHMMで用いられるスペクトル法は、どの程度非パラメトリックHMMへと拡張可能か？
• RQ5 特に周辺平滑化分布に関して、提案された推定器は有限標本状況でどの程度の性能を示すか？

主な発見

• 全変動ノルムにおけるフィルタリングおよび平滑化誤差は、パrameter推定器のリスクによって一様に上界で抑えられ、時間にわたる一貫した推定が保証される。
• 非パラメトリックスペクトル推定器の観測密度に対する明示的なL2リスクバウンドが導出され、理論的収束分析が可能になる。
• 観測空間がコンパクトである仮定の下で、全変動ノルムにおけるフィルタリングおよび平滑化誤差の明示的な収束速度が確立される。
• シミュレーションにおいて、スペクトル法は条件付き観測密度および周辺平滑化分布の両方の推定において一貫性を示す。
• 理論的結果から、パrameter推定からの誤差伝搬が時間にわたって良好に制御され、一様に有界であることが示される。
• 本手法は、非漸近的かつ時間に依存しない推定誤差の制御を提供する。これは、隠れマルコフモデルにおける逐次推論にとって極めて重要である。