[論文レビュー] Stochastic Variational Inference for Hidden Markov Models

Nicholas J. Foti, Jason Xu+2 more|arXiv (Cornell University)|Nov 6, 2014

Bayesian Methods and Mixture Models参考文献 26被引用数 45

ひとこと要約

本稿では、長時間系列におけるHMMパラメータの学習にミニバッチ化された確率的最適化を用いるスケーラブルなベイジアン推論手法、Stochastic Variational Inference for Hidden Markov Models (SVIHMM) を提案する。マルコフ連鎖における記憶の減衰特性と、適応的メッセージスムージングバッファを活用することで、エッジ効果に起因する誤差を抑え、バッチ目的関数の局所最適解への収束を達成し、2.5億観測値に達するゲノムシーケンスのような大規模データセットでも効率的な推論を可能にする。

ABSTRACT

Variational inference algorithms have proven successful for Bayesian analysis in large data settings, with recent advances using stochastic variational inference (SVI). However, such methods have largely been studied in independent or exchangeable data settings. We develop an SVI algorithm to learn the parameters of hidden Markov models (HMMs) in a time-dependent data setting. The challenge in applying stochastic optimization in this setting arises from dependencies in the chain, which must be broken to consider minibatches of observations. We propose an algorithm that harnesses the memory decay of the chain to adaptively bound errors arising from edge effects. We demonstrate the effectiveness of our algorithm on synthetic experiments and a large genomics dataset where a batch algorithm is computationally infeasible.

研究の動機と目的

• バッチ手法が計算的に非現実的となる非常に長い時間系列における、隠れマルコフモデル（HMM）のベイジアン推論をスケーラブルに扱うことを目的とする。
• 独立または交換可能なデータ設定に限らない確率的変分推論（SVI）を、時間依存性やマルコフ依存性を持つデータ構造に拡張することを目的とする。
• HMMにおけるサブチェーンのミニバッチ処理によって生じるマルコフ依存性の破壊と、サブチェーン外のデータの無視が引き起こす誤差を軽減することを目的とする。
• マルコフ連鎖の記憶の減衰特性を活用して誤差伝搬を制御しつつ、不偏な勾配推定を維持する手法を設計することを目的とする。
• 合成データおよび2.5億観測値を含む大規模ゲノムデータセット上で、提案手法のスケーラビリティと精度を実証することを目的とする。

提案手法

• 時間的依存性を考慮したHMM用のSVIアルゴリズムを提案し、サブチェーンのミニバッチでデータを処理する。
• エッジ効果に起因する誤差を抑制するために、サブチェーン境界における観測値のバッファを組み込んだ、近似メッセージスムージングスキームを採用する。
• マルコフ連鎖の記憶の減衰特性を活用し、遠く離れた観測値の影響が小さくなるようにすることで、切断されたサブチェーンに起因する誤差を低減する。
• サブチェーン勾配に起因する誤差に対して理論的バウンディングを導出し、バッファサイズとステップサイズの調整によって誤差を制御可能であることを示す。
• 共役事前分布（遷移行列にはディリクレ分布、ガウス発生分布にはNIW分布）を用いた構造的平均場変分推論により、効率的な事後分布近似を実現する。
• サブチェーン上で計算された確率的勾配を用いて変分パラメータを更新し、バッチ目的関数の局所最適解への収束を理論的に証明する。

実験結果

リサーチクエスチョン

• RQ1 ミニバッチ処理によってマルコフ構造が破壊されるにもかかわらず、強い時間的依存性を示すHMMに対して、確率的変分推論が効果的に適用可能かどうか。
• RQ2 切断されたサブチェーンに起因するエッジ効果誤差を、原理的かつ一貫した方法で制御するにはどうすればよいか。
• RQ3 提案手法は、長時間系列においてバッチ変分推論と同等の精度を達成しながら、計算コストを著しく削減できるか。
• RQ4 バッチ推論が計算的に非現実的となるような大規模データセット（例：2.5億観測値のゲノムシーケンス）において、アルゴリズムがスケーラブルに動作するか。
• RQ5 マルコフ連鎖における記憶の減衰特性が、HMMの確率的最適化における誤差バウンディング機構の設計にどのように寄与するか。

主な発見

• 合成データセットにおいて、SVIHMMはバッチ変分推論と同等の性能を達成し、実行時間は著しく短縮された。
• 理論的に示されたように、アルゴリズムはバッチ目的関数の局所最適解に収束し、安定した最適化が保証された。
• T=2.5億観測値のゲノムデータセットにおいて、バッチ手法が計算的に非現実的であるにもかかわらず、SVIHMMはベイジアン推論を可能にした。
• 適応的growBufバッファは、サブチェーンの切断に起因する誤差を低減し、実験結果からε=1×10⁻⁶が顕著な性能向上をもたらすことが示された。
• 識別可能な構造と複雑なHMM構造（対角優勢型や逆サイクル型）の両方を効果的に処理でき、構造的曖昧性に対してもロバストであることが示された。
• 実行時間の比較では、Pythonのオーバーヘッドと勾配最適化の欠如にもかかわらず、T=300万およびM=1の場合に、バッチVBよりもSVIHMMが高速であった。これは1イテレーションあたりのコストが低減されたためである。