[論文レビュー] Metropolis-type algorithms for Continuous Time Bayesian Networks

Błażej Miasojedow, Wojciech Niemiro+2 more|arXiv (Cornell University)|Mar 17, 2014

Bayesian Modeling and Causal Inference参考文献 10被引用数 4

ひとこと要約

本稿では、連続時間ベイジアンネットワーク（CTBNs）のための新しいメトロポリス・ハスティングスMCMCアルゴリズムを提案する。この手法は、CTMCをマーク付きポアソン過程に変換するユニフォーム化を用いて、隠れ変数の検出に効率的な逆遷移を可能にする。尤度重み付け法と比較して、特に無限状態空間を持つモデル（例：無限状態空間を有するロトカ・ヴォルテラモデル）において、高次元かつ非有界状態空間でも優れた性能を発揮する。

ABSTRACT

We present a Metropolis-Hastings Markov chain Monte Carlo (MCMC) algorithm for detecting hidden variables in a continuous time Bayesian network (CTBN), which uses reversible jumps in the sense defined by (Green 1995). In common with several Monte Carlo algorithms, one of the most recent and important by (Rao and Teh 2013), our algorithm exploits uniformization techniques under which a continuous time Markov process can be represented as a marked Poisson process. We exploit this in a novel way. We show that our MCMC algorithm can be more efficient than those of likelihood weighting type, as in (Nodelman et al. 2003) and (Fan et al. 2010) and that our algorithm broadens the class of important examples that can be treated effectively.

研究の動機と目的

• 連続時間ベイジアンネットワーク（CTBNs）における隠れ変数の学習に効率的なMCMCアルゴリズムを開発すること、特に従来の手法が失敗する状況を想定する。
• 尤度重み付け法の限界を克服すること。尤度重み付け法は、重みの崩壊（weight degeneracy）を引き起こし、大規模または非有界状態空間では性能が著しく低下する。
• 局所的な更新に基づき、状態空間のサイズに依存しないスケーリングが可能な逆遷移MCMCアルゴリズムを設計することにより、無限大または非常に大きな状態空間を持つモデルへの適用を可能にする。
• ユニフォーム化技術を活用してCTMCをマーク付きポアソン過程に表現することで、計算コストを制御可能な提案分布の構築を容易にする。
• ロトカ・ヴォルテラ捕食者・被捕食者系のような、非線形強度と非有界状態空間を持つ複雑で現実的モデルにおいて、アルゴリズムの有効性を実証すること。

提案手法

• CTBNにおける連続時間マルコフ過程を、最大状態遷移率 λ ≥ maxₓ Q(x) を用いてユニフォーム化することで、マーク付きポアソン過程（MPP）に表現し、シミュレーションに適した形に変換する。
• 詳細なバランスを保つために、特定の点での軌道の変更を伴う逆遷移（具体的には、Add/EraseRandomPointの移動）を含むメトロポリス・ハスティングスの提案を構築する。
• 軌道の連続する3点の十分統計量のみを再計算することで、反復ごとの計算オーバーヘッドを最小限に抑える局所的更新を採用する。
• 新しい状態は、直前の状態からの遷移核に基づいて生成され、受容確率はメトロポリス・ハスティングス比から導出される。
• 観測変数の一部のみが観測可能であるCTBNに適用し、未観測状態の事後分布を推定するために、全軌道を活用する。
• 受容確率と計算コストのバランスを取るために、ユニフォーム化レート λ をチューニングする。λ ≈ max Q(x) の場合、受容率が低くなるのを避けるとともに、λ が大きすぎる場合の過剰な仮想遷移も回避する。

実験結果

リサーチクエスチョン

• RQ1 尤度重み付け法が失敗する非有界状態空間を持つモデルに対し、効率的に処理できるCTBNのためのメトロポリス・ハスティングスMCMCアルゴリズムを設計できるか？
• RQ2 ユニフォーム化を用いて、連続時間過程に逆遷移MCMCを適応させ、詳細なバランスを保ちつつ状態空間を効率的に探索できるか？
• RQ3 提案されたアルゴリズムにおけるユニフォーム化レート λ の選定において、受容率と計算コストのトレードオフはどのようなものか？
• RQ4 尤度重み付け法や他のMCMC手法（例：RaoとTeh 2013）と比較して、複雑なモデルにおける収束性と精度の観点から、提案手法の性能はいかがなものか？
• RQ5 観測データが固定時刻におけるサンプル軌道（完全なパスではなく）である場合でも、アルゴリズムはCTBNにおける隠れ変数を効果的に推定できるか？

主な発見

• 実験において、提案されたMCMCアルゴリズムは受容率が約0.5を達成しており、良好な混合性と状態空間の効率的探索を示している。
• 特に高次元または非有界状態空間を持つモデルにおいて、尤度重み付け法と比較して推定精度と安定性が顕著に優れている。
• 非有界状態空間と非線形強度を有するロトカ・ヴォルテラ例では、後件中央値および平均が狭い信用区間を伴って正確に回復されており、ロバストネスが確認された。
• アルゴリズムの計算コストは状態空間のサイズにほとんど依存せず、無限大または非常に大きな状態空間を持つモデルに適している。
• 3点分の十分統計量のみを必要とする局所的更新メカニズムのおかげで、RaoとTeh（2013）のようなグローバル再評価手法と比較して、反復あたりのコストが低く抑えられている。
• 強度が非有界であっても（局所的に有界であれば）、実用的な応用において切断処理が不要であることが示された。