[論文レビュー] Fast MCMC sampling for Markov jump processes and continuous time Bayesian networks

Vinayak Rao, Yee Whye Teh|arXiv (Cornell University)|Feb 14, 2012

Bayesian Modeling and Causal Inference参考文献 21被引用数 29

ひとこと要約

この論文は、マコフ跳躍過程および連続時間ベイジアンネットワークにおける効率的なマルコフ連鎖モンテカルロ（MCMC）サンプリングのための高速な補助変数ギブスサンプラーを導入する。均一化を用いて仮想のジャンプ時刻を生成し、離散時刻点上で前向きフィルタリングと後向きサンプリングを適用することにより、既存のギブスサンプラーと比較して顕著な計算高速化を達成しながら、未観測パス上の正確な推論を維持する。

ABSTRACT

Markov jump processes and continuous time Bayesian networks are important classes of continuous time dynamical systems. In this paper, we tackle the problem of inferring unobserved paths in these models by introducing a fast auxiliary variable Gibbs sampler. Our approach is based on the idea of uniformization, and sets up a Markov chain over paths by sampling a finite set of virtual jump times and then running a standard hidden Markov model forward filtering-backward sampling algorithm over states at the set of extant and virtual jump times. We demonstrate significant computational benefits over a state-of-the-art Gibbs sampler on a number of continuous time Bayesian networks.

研究の動機と目的

• 連続時間確率的モデルにおける未観測パスのサンプリングにおける計算ボトルネックを解消すること。
• マコフ跳躍過程および連続時間ベイジアンネットワークのためのスケーラブルなMCMC手法を開発すること。
• サンプリングの正確性を損なうことなく、これらのモデルにおけるパス推論の計算コストを低減すること。
• 複雑な動的システムにおける潜在パス上での効率的な事後分布推論を可能にすること。

提案手法

• 連続時間過程を仮想ジャンプ時刻の有限集合上で離散時間マルコフ連鎖に変換するために均一化を用いる。
• 潜在ジャンプ時刻を表す補助変数を導入し、観測済みおよび仮想イベントの両方を含む結合状態空間を構築する。
• 実際の時刻と仮想の時刻を含む拡張された時間グリッド上で、標準的な前向きフィルタリングと後向きサンプリングアルゴリズムを適用する。
• 現在の状態と仮想ジャンプ時刻に条件づけて、経路を反復的に再サンプリングする。これは拡張された状態空間における条件付き独立性を活用する。
• 拒否サンプリングを回避し、指数分布のメモリレス性を活かして正確な離散化を実現する。
• アルゴリズムをギブスサンプリングフレームワークに統合し、詳細つり合いを保ちながら正しい事後分布への収束を確保する。

実験結果

リサーチクエスチョン

• RQ1 連続時間ベイジアンネットワークにおける未観測パスのためのより高速なMCMCサンプリングは達成可能か？
• RQ2 均一化に基づく補助変数サンプリングは、最先端のギブスサンプラーと比較して計算効率に優れているか？
• RQ3 仮想ジャンプ時刻は、パス推論における混合性と収束速度にどのような影響を与えるか？
• RQ4 この手法は、複雑で高次元の連続時間動的システムにスケーリング可能か？

主な発見

• 提案手法は、複数の連続時間ベイジアンネットワークベンチマークにおいて、最先端のギブスサンプラーと比較して顕著な計算高速化を達成した。
• 仮想ジャンプ時刻の使用により、拒否なしの正確なパスサンプリングが可能になり、混合性と収束性が向上した。
• 高いジャンプ強度と複雑な状態遷移を有するモデルに対しても、効果的にスケーリングできた。
• 実験結果から、ベースライン手法と比較して収束が速く、サンプルパスの自己相関が低減された。