[論文レビュー] On learning parametric-output HMMs

Aryeh Kontorovich, Boaz Nadler+1 more|arXiv (Cornell University)|Feb 25, 2013

Machine Learning and Algorithms参考文献 19被引用数 15

ひとこと要約

本稿では、出力分布が既知のパラメトリック族（例：正規分布）に属するパラメトリック出力付き隠れマルコフモデル（HMM）を学習するための2段階手法を提案する。まず出力パラメータを混合モデル（例：EM）により推定し、次に凸二次計画法（QP）を用いて遷移確率を回復する。主な貢献は、出力パラメータ推定値の摂動に対して、遷移行列推定子の理論的一貫性とロバスト性を示したことである。

ABSTRACT

We present a novel approach for learning an HMM whose outputs are distributed according to a parametric family. This is done by {\em decoupling} the learning task into two steps: first estimating the output parameters, and then estimating the hidden states transition probabilities. The first step is accomplished by fitting a mixture model to the output stationary distribution. Given the parameters of this mixture model, the second step is formulated as the solution of an easily solvable convex quadratic program. We provide an error analysis for the estimated transition probabilities and show they are robust to small perturbations in the estimates of the mixture parameters. Finally, we support our analysis with some encouraging empirical results.

研究の動機と目的

• 標準的なバーム＝ウェルチアルゴリズムがHMMパラメータ推定において収束が遅く、局所最適解に陥る問題に対処すること。
• パラメトリック出力付きHMMにおける出力パラメータの学習と遷移確率の学習を分離すること。
• 出力パラメータが既知または近似的に既知である場合に、計算的に効率的かつ統計的に一貫性のあるHMM遷移行列の学習手法を提供すること。
• 推定された出力パラメータにおける小さな誤差が、遷移行列推定値にどのように伝播するかを分析すること。
• パラメトリック出力付きHMMの学習における主な困難が、出力分布の混合モデルのフィッティングにあるのではなく、遷移確率の推定にあることを示すこと。

提案手法

• HMM学習を2段階に分離：まず一般用途のパラメトリック混合モデル学習器（例：EM）を用いて出力パラメータを推定し、次に凸最適化により遷移確率を推定する。
• 隠れ状態系列を定常分布からの標本とみなして、完全な尤度計算を回避するため、単一およびペアの経験的分布に着目する。
• 遷移行列推定を、経験的分布とモデルベースの同時分布との乖離を最小化する凸二次計画法（QP）として定式化する。
• HMMの定常分布がパラメトリック出力密度の混合であることに着目し、QP定式化に反映する。
• 定常分布の構造を活用して、対角行列の重み付けを施した重み付き最小二乗法を用い、QPを効率的に解く。
• 特に核行列の最小特異値に注目することで、システム行列の条件数を分析し、数値的安定性とロバスト性を確保する。

実験結果

リサーチクエスチョン

• RQ1 出力パラメータが既知または近似的に既知であるとき、パラメトリック出力付きHMMの遷移行列を一貫して推定できるか？
• RQ2 出力パラメータ推定値の誤差が、推定された遷移行列にどのように伝播するか？
• RQ3 提案されたQPベースの遷移行列推定子は、推定された出力パラメータにおける小さな摂動に対してロバストか？
• RQ4 提案された2段階手法は、収束速度および精度の面で標準的なバーム＝ウェルチアルゴリズムを上回るか？
• RQ5 HMMおよび出力分布族に対してやや弱い仮定のもとで、提案手法の統計的一致性および収束速度は何か？

主な発見

• 提案されたQPベースの遷移行列推定子は、HMMおよび出力分布に対してやや弱い混合性および正則性条件のもとで、漸近的に一貫性を示す。
• 推定出力パラメータにおける小さな摂動に対してもロバストであり、追加の誤差が $ O\bigl(n^{r} \frac{\rho}{a_0^2 \rho_1^4}\bigr) $ で有界である。ここで $ \rho $ は摂動の大きさ、$ \rho_1 $ は最小特異値、$ r=1 $ は定常分布推定、$ r=3/2 $ は遷移行列推定の場合である。
• 実験結果から、EM初期化を施したQPベースの手法が、同じ反復回数におけるバーム＝ウェルチ法よりも高速かつ高精度に収束することが示された。
• 出力パラメータが正確に既知である場合、20反復後にはQP推定子の誤差がバーム＝ウェルチ法を下回り、それにもかかわらずバーム＝ウェルチ法はまだ収束していない。
• 尤度最大化の反復的処理を回避するため、特にサンプル数が多い場合にバーム＝ウェルチ法に比べて計算コストを顕著に削減できる。
• シミュレーション結果から、QPで得た遷移行列を初期値としてバーム＝ウェルチ法に使用することで収束が加速され、最終的な精度も向上することが示された。これは、提案された初期化戦略の価値を示している。