[論文レビュー] Nonparametric identification and maximum likelihood estimation for hidden Markov model

Grigory Alexandrovich, Hajo Holzmann+1 more|arXiv (Cornell University)|Apr 16, 2014

Bayesian Methods and Mixture Models参考文献 12被引用数 6

ひとこと要約

本稿は、有限状態の隠れマルコフモデル（HMM）における非パラメトリックな同定可能性および非パラメトリック最尤推定（NP-MLE）の一致性を、最小限の仮定のもとで確立する。具体的には、フルランクでエルゴディックな遷移行列と、すべてが異なる状態依存分布を仮定する。一般化されたカルバック・ライブラー情報量が真のパラメータを一意に同定することを証明し、状態密度がパラメトリック族の任意の混合である場合でさえ、混合分布自体の同定が不要でもNP-MLEの一致性を示す。

ABSTRACT

Nonparametric identification and maximum likelihood estimation for finite-state hidden Markov models are investigated. We obtain identification of the parameters as well as the order of the Markov chain if the transition probability matrices have full-rank and are ergodic, and if the state-dependent distributions are all distinct, but not necessarily linearly independent. Based on this identification result, we develop nonparametric maximum likelihood estimation theory. First, we show that the asymptotic contrast, the Kullback--Leibler divergence of the hidden Markov model, identifies the true parameter vector nonparametrically as well. Second, for classes of state-dependent densities which are arbitrary mixtures of a parametric family, we show consistency of the nonparametric maximum likelihood estimator. Here, identification of the mixing distributions need not be assumed. Numerical properties of the estimates as well as of nonparametric goodness of fit tests are investigated in a simulation study.

研究の動機と目的

• 有限状態HMMのパラメータ、特に状態数を含めて、最小限の正則性条件のもとで非パラメトリックに同定可能であることを確立すること。
• 一般化されたカルバック・ライブラー情報量が、HMMにおけるNP-MLEの一貫性のある対照関数として機能することを示すこと。
• 状態依存密度がパラメトリック族の任意の混合である場合に、混合分布の同定が不要でも非パラメトリック最尤推定の一致性を証明すること。
• 成分密度にパラメトリック仮定をしない非パラメトリック推論の理論的基盤を提供すること。

提案手法

• 時間反転の考察と三方向配列に関するクラスカルの定理を用いて、隠れ状態を条件とする条件付き分布の同定を確立する。
• キングマンの部分加法的エルゴディック定理を適用し、漸近的対照（一般化されたKL情報量）の存在と定値性を証明する。
• 元の状態依存分布が線形従属であっても、観測セグメントの条件付き分布関数の線形独立性に依存する。
• 凸解析と有界リプシッツ距離を用いて、非パラメトリック混合クラスにおける混合測度の収束を扱う。
• 単体値初期分布の結合分布を構築し、漸近的対照を通常のKL情報量の積分として表現する。
• 高次遷移（$t_0 = K^2 - 2K + 2$）を用いて、遷移行列と初期分布の正定性を保証し、技術的議論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 有限状態HMMのパrameterベクトルが、状態数を含めて非パラメトリックに同定可能となる条件は何か？
• RQ2 一般化されたカルバック・ライブラー情報量は、非パラメトリックな設定において真のHMMパラメータを一意に同定できるか？
• RQ3 状態依存密度がパラメトリック族の任意の混合である場合でさえ、混合分布の同定が不可能であっても、非パラメトリック最尤推定は一貫性を示せるか？
• RQ4 状態依存分布が線形独立でない場合、たとえば滑らかさや対数凹型密度といった非パラメトリッククラスで一般的に見られるように、同定はどのように達成できるか？

主な発見

• 遷移行列がフルランクでエルゴディックであり、状態依存分布がすべて異なる限り、有限状態HMMのパラメータ（状態数を含む）は非パラメトリックに同定可能である。
• 一般化されたカルバック・ライブラー情報量（正規化された対数尤度の極限として定義）は、真のHMMパラメータを一意に同定する定値対照関数である。
• パラメトリック族の任意の混合として表現可能な状態依存密度のクラスに対しては、混合分布の同定が不要でも非パラメトリック最尤推定は一貫性を示す。
• 状態密度の線形従属という課題を、時間反転HMMと三方向配列に関するクラスカルの定理を用いることで克服した。
• 密度の点별値の近似にリプシッツ連続関数と混合測度上の有界リプシッツ距離を用い、NP-MLEの一貫性を確立した。
• 異なるパラメータに対して漸近的対照が正の値をとることを示し、真のモデルが対照関数の唯一の最小化点であることを保証した。