[論文レビュー] Learning Overcomplete HMMs

Vatsal Sharan, Sham M. Kakade+2 more|arXiv (Cornell University)|Nov 7, 2017

Machine Learning and Algorithms参考文献 18被引用数 8

ひとこと要約

本稿は、出力アスキイブのサイズよりも隠れ状態数が著しく多い過剰な隠れマルコフモデル（HMM）の学習可能性を調査する。ランダムな正則遷移行列と小さな出力アスキイブを持つHMMが、多項式回のサンプルからは学習不可能であることを示す情報理論的下界を確立する一方で、スパースなHMMに対しては、テンソル分解とモーメント法を用いて短いサイクルの確率が制限された場合に有効な学習結果を得る。

ABSTRACT

We study the problem of learning overcomplete HMMs---those that have many hidden states but a small output alphabet. Despite having significant practical importance, such HMMs are poorly understood with no known positive or negative results for efficient learning. In this paper, we present several new results---both positive and negative---which help define the boundaries between the tractable and intractable settings. Specifically, we show positive results for a large subclass of HMMs whose transition matrices are sparse, well-conditioned, and have small probability mass on short cycles. On the other hand, we show that learning is impossible given only a polynomial number of samples for HMMs with a small output alphabet and whose transition matrices are random regular graphs with large degree. We also discuss these results in the context of learning HMMs which can capture long-term dependencies.

研究の動機と目的

• 隠れ状態数 n が出力アスキイブサイズ m より著しく大きい過剰なHMMの学習の根本的限界を理解すること。
• 多項式的サンプル複雑性で効率的に学習可能な構造的性質を有する遷移行列の特徴を同定すること。
• 標準的なスペクトル法が失敗する場合に、識別可能性とサンプル複雑性の間の矛盾を解消すること。
• 一般またはランダムなHMMが、識別可能であるにもかかわらず情報理論的に困難である可能性がある過剰な状態空間において、学習可能かどうかを明確にすること。
• 過去の状態が将来の予測に与える条件付き影響に基づく新しいメモリ概念を導入し、HMMにおける長期依存性の捉え方を分析するフレームワークを構築すること。

提案手法

• 次数 d = n^ε であるランダム正則グラフの数を数えることで、情報理論的下界を証明し、多項式的サンプル数では遷移行列を特定するのに情報が不十分であることを示す。
• 観測出力を条件としたとき、初期隠れ状態が将来の状態に与える影響の減衰を、事後分布を時不変なマルコフ連鎖としてモデル化することで分析する。
• 時不変な遷移行列のスペクトル解析を用いて、条件付きであっても初期状態の影響が時間とともに指数的に減少することを示す。
• スパースな遷移行列と、10 log_m n 未満の長さのサイクルに割り当てられる確率質量が小さいHMMに対して、テンソル分解とモーメント法を活用した正の学習アルゴリズムを提案する。
• 観測行列の複雑さを遷移行列の構造から分離するために、i.i.d. 観測エントリと E[O_ij] = 1/m を仮定する。
• 過去の状態が将来の予測に与える条件付き影響に基づくHMM出力過程における新しいメモリ測度を導入し、長期依存性の捉え方を定量化する。

実験結果

リサーチクエスチョン

• RQ1 出力アスキイブが小さく、隠れ状態数が多い過剰なHMMは、多項式的サンプル複雑性で効率的に学習可能か？
• RQ2 遷移行列のどのような構造的性質が、過剰な状態空間における学習の実行可能性を可能にするか？
• RQ3 識別可能ではあるが、情報理論的に困難である可能性があるランダム正則遷移行列を持つHMMの学習には、障壁があるか？
• RQ4 遷移グラフに短いサイクルが存在する場合、HMMの学習可能性にどのような影響を与えるか？
• RQ5 出力過程のメモリと、HMMが長期依存性を捉える能力との関係は何か？

主な発見

• 次数 d = n^ε で出力アスキイブ m = polylog(n) のランダム正則グラフ上のランダムウォークに対応するHMMは、多項式的サンプル数では、近似的にも学習不可能である。これは情報理論的制限によるものである。
• 多項式長のウィンドウに含まれる情報量は最大で Õ(n) ビットであるが、遷移行列を特定するには Ω(nd) ビットが必要であり、学習は不可能である。
• 有界次数で、10 log_m n 未満の長さのサイクルに割り当てられる確率質量が小さいスパースHMMに対しては、ランダム観測行列を用いたテンソル分解とモーメント法により、効率的な学習が可能である。
• 短いサイクルに関する条件は、多項式的時間ウィンドウ内で状態空間の十分な混合と探索を保証し、高次モーメントによる識別可能性を可能にする。
• 中間の観測を条件としたとき、初期隠れ状態が将来の状態に与える影響は指数的に減少する。これは情報理論的下界の根拠となっている。
• 本稿では、過去の状態が将来の予測に与える条件付き影響に基づくHMMにおける新しいメモリ概念を導入し、長期依存性の捉え方を定量化し、学習可能性と関連付ける。