[論文レビュー] A Spectral Algorithm for Learning Hidden Markov Models

Daniel Hsu, Sham M. Kakade+1 more|arXiv (Cornell University)|Nov 26, 2008

Bayesian Methods and Mixture Models被引用数 137

ひとこと要約

この論文は、観測行列と遷移行列の特異値に関連する自然な分離条件の下で、隠れマルコフモデル（HMM）を学習するスペクトル的手法を提示する。この手法は、過去と未来の相関行列の特異値分解（SVD）を用いて、隠れ状態の低ランク表現を回復し、多項式時間のサンプルおよび計算複雑性で、正確な学習を保証する。これは、自然言語処理のような高次元の観測空間に対しても有効である。

ABSTRACT

Hidden Markov Models (HMMs) are one of the most fundamental and widely used statistical tools for modeling discrete time series. In general, learning HMMs from data is computationally hard (under cryptographic assumptions), and practitioners typically resort to search heuristics which suffer from the usual local optima issues. We prove that under a natural separation condition (bounds on the smallest singular value of the HMM parameters), there is an efficient and provably correct algorithm for learning HMMs. The sample complexity of the algorithm does not explicitly depend on the number of distinct (discrete) observations---it implicitly depends on this quantity through spectral properties of the underlying HMM. This makes the algorithm particularly applicable to settings with a large number of observations, such as those in natural language processing where the space of observation is sometimes the words in a language. The algorithm is also simple, employing only a singular value decomposition and matrix multiplications.

研究の動機と目的

• 一般条件下でのHMM学習の計算困難性に対処し、保証付きの解を得られる取り扱いやすい設定を同定する。
• EMのような局所探索ヒューリスティクスの限界を克服する。これらは局所最適解に陥りやすく、理論的保証がない。
• 観測の種類数が多くなるような高次元の観測空間（例：自然言語処理における語の系列）においても、効率的な学習を可能にする。
• 遷移行列や観測行列を明示的に回復しないが、隠れ状態の線形関係を保つ表現を維持する手法を開発する。
• スペクトル的分離条件の下で、同時分布および条件付き系列分布の近似誤差に対して理論的バウンディングを提供する。

提案手法

• 過去と未来の観測系列間の経験的相関に、カーネル相関分析（CCA）をSVDを用いて適用し、隠れ状態の低次元部分空間を推定する。
• 過去と未来の観測間の相関行列のスペクトル分解を用いて、潜在的な隠れ状態構造を同定する。
• 2段階の推定を採用する：まずSVDを用いて部分空間を推定し、次に推定された部分空間上で行列演算を用いて未来の観測の条件付き分布を回復する。
• 推定された条件付き分布が有効な確率ベクトルとなるように、正規化および再正規化ステップを適用する。
• 観測行列（最小特異値）および遷移行列（隣接観測間の相関）に対するスペクトル的条件を、分離仮定として用いる。
• 行列摂動理論を用いて推定誤差をバウンディングし、観測数のスペクトル的性質を通じて間接的に依存するサンプル複雑性バウンディングを導出する。

実験結果

リサーチクエスチョン

• RQ1 自然なスペクトル的分離条件の下で、保証付きの正しさと効率性を備えたHMM学習アルゴリズムを設計できるか？
• RQ2 自然言語処理のような高次元の観測空間でも、このアルゴリズムは良好な性能を維持できるか？
• RQ3 系列長が増加しても、未来の観測を予測する際の誤差が有界に保たれるか？
• RQ4 サンプル複雑性は観測の種類数にどのように依存するか？また、この数に依存しない可能性はあるか？
• RQ5 完全なHMMパラメータを推定しない状態で、意味のある隠れ状態表現をどの程度回復できるか？

主な発見

• アルゴリズムは多項式時間のサンプルおよび計算複雑性を達成しており、大規模応用にスケーラブルである。
• サンプル複雑性は、観測の種類数を直接的に依存させず、HMMのスペクトル的性質を通じて間接的に依存する。これは、高次元の観測設定において有利である。
• 長さ$ t $の系列の同時分布の近似誤差は$ t $に関して多項式的に悪化するが、次の観測を予測する際の誤差は漸近的に有界である。
• 真の条件付き分布と推定された条件付き分布の間のKullback-Leibler情報量の差に、保証付きのバウンディングが得られ、誤差項はスペクトル的条件と推定誤差によって制御される。
• 相関行列の推定誤差に対しても、行列摂動理論および集中不等式を用いた誤差バウンディングにより、アルゴリズムは頑健である。
• 理論的解析により、適切なサンプルサイズのもとで、推定モデルは次の観測を予測する際、$ O(\theta) $の誤差を達成することが示された。ここで$ \theta $はHMMパラメータのスペクトルギャップおよび特異値に依存する。