[論文レビュー] Stochastic Gradient MCMC Methods for Hidden Markov Models

Yi-An Ma, Nicholas J. Foti+1 more|arXiv (Cornell University)|Jun 14, 2017

Markov Chains and Monte Carlo Methods参考文献 24被引用数 15

ひとこと要約

本稿では、時間的依存性を扱うためにバッファ付きメッセージパッシングを用い、周辺尤度勾配を活用することで、大規模な逐次データに対する効率的なベイズ推論を可能にする確率的勾配MCMCアルゴリズムを提案する。この手法は、バッチMCMCと比較して最大1,000倍の高速化を達成しながら、理論的妥当性を保ち、共役でない発生分布のサポートも可能である。

ABSTRACT

Stochastic gradient MCMC (SG-MCMC) algorithms have proven useful in scaling Bayesian inference to large datasets under an assumption of i.i.d data. We instead develop an SG-MCMC algorithm to learn the parameters of hidden Markov models (HMMs) for time-dependent data. There are two challenges to applying SG-MCMC in this setting: The latent discrete states, and needing to break dependencies when considering minibatches. We consider a marginal likelihood representation of the HMM and propose an algorithm that harnesses the inherent memory decay of the process. We demonstrate the effectiveness of our algorithm on synthetic experiments and an ion channel recording data, with runtimes significantly outperforming batch MCMC.

研究の動機と目的

• 強い時間的依存性を示す大規模な逐次データセットにおけるHMMにおけるベイズ推論のスケーリングに挑戦すること。
• 非i.i.d.なデータと潜在的な離散状態を伴う状況でも、後方分布からの正しい漸近的サンプリングを維持する確率的勾配MCMCアルゴリズムを開発すること。
• 通常のMCMCや変分法では非現実的であるが、非共役発生分布を効率的に扱えるようにすること。
• バッファリングと混合時間に基づく部分連鎖間隔を用いることで、逐次データの依存性を理論的に裏付けられた方法で解体すること。
• 実データおよび合成データにおいて、推定精度を維持しながらバッチMCMCに比べて顕著な計算的高速化を示すこと。

提案手法

• 本手法はHMMの周辺尤度に基づき、離散的潜在状態の直接推論を避ける。代わりに、小さな部分連鎖から得られる確率的勾配を計算する。
• メッセージパッシングの計算コストを削減するため、各部分連鎖の周囲に短いウィンドウに制限したバッファ戦略を採用する。
• バッファ長と部分連鎖間隔は、確率的力学系を用いて理論的に裏付けられ、部分連鎖の計算が相関のない状態を保ち、正しい定常分布を維持することを保証する。
• 部分連鎖はHMMの混合時間に従って間隔を空けて配置され、近似的に独立した状態が得られ、有効な確率的勾配更新が可能になる。
• アルゴリズムはリーマン幾何的ランジュバンダイナミクス（RLD）に基づく。これは理論的収束保証を持つ一貫したSG-MCMCフレームワークを提供する。
• 本手法は非共役事前分布および発生モデルをサポートし、標準的な共役指数型分布族を超えた柔軟なベイズモデリングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 非i.i.d.な逐次データ（HMMなど）に対して、確率的勾配MCMCを効果的に適用できるか。特に、ミニバッチ処理のために依存性を解体する必要がある。
• RQ2 マルコフ過程に内在する記憶の減衰特性をどのように活用し、局所的な部分連鎖のみで全後方尤度勾配を近似できるか。
• RQ3 バッファサイズと部分連鎖間隔を、更新が相関のない状態を保ち、正しい定常分布を維持するように理論的に決定する方法は何か。
• RQ4 提案手法が、通常のスケーラブルなベイズ手法では非可解とされる非共役発生分布に対しても、正確な後方分布推論を達成できるか。
• RQ5 実世界の逐次データにおいて、バッチMCMCに比べて実行時間でどれほど優れているか、かつ推定精度を維持できるか。

主な発見

• SG-RLDアルゴリズムは、1MHzのイオンチャネル記録において、バッチRLDと比較して1,000倍の高速化を達成。収束が10分未満で完了した一方、バッチMCMCは1回のイテレーションも完了していなかった。
• 対数正規発生分布を伴う合成データにおいて、非共役モデルは共役モデルよりも少ないイテレーションで正確な遷移行列推定に収束した。
• 非共役HMMモデルは真の状態数（K=2）を正しく特定したが、共役モデルは過学習を起こし、K=4と誤って選択した。
• イオンチャネルデータにおいて、本手法は妥当なセグメンテーションと正確なパラメータ推定を達成し、バッチMCMCと同等の品質を示したが、時間ははるかに短縮された。
• 短いシーケンスおよび長いシーケンスの両方の合成HMMにおいて、本手法は安定した性能を示し、遷移行列推定の誤差は理論的期待と整合的であった。
• バッファ長と部分連鎖間隔の理論的枠組みは、実験的に妥当性が確認され、確率的勾配が不偏であり、定常分布が保持されていることが保証された。