[論文レビュー] Learning Continuous Time Bayesian Networks

Uri Nodelman, Christian R. Shelton+1 more|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 5被引用数 9

ひとこと要約

本稿では、連続時間ベイジアンネットワーク（CTBN）におけるパラメータおよび構造の学習のための共役事前分布を用いた手法を提案する。これにより、効率的なベイズ推定と構造スコアリングが可能となり、循環的依存関係の許容と変数固有の時間分解能の適応が可能となる。このアプローチにより、固定時間分解能を前提とする動的ベイジアンネットワーク（DBN）に比べ、連続時間プロセスのモデル化において優れた性能を発揮する。

ABSTRACT

Continuous time Bayesian networks (CTBNs) describe structured stochastic processes with finitely many states that evolve over continuous time. A CTBN is a directed (possibly cyclic) dependency graph over a set of variables, each of which represents a finite state continuous time Markov process whose transition model is a function of its parents. We address the problem of learning parameters and structure of a CTBN from fully observed data. We define a conjugate prior for CTBNs, and show how it can be used both for Bayesian parameter estimation and as the basis of a Bayesian score for structure learning. Because acyclicity is not a constraint in CTBNs, we can show that the structure learning problem is significantly easier, both in theory and in practice, than structure learning for dynamic Bayesian networks (DBNs). Furthermore, as CTBNs can tailor the parameters and dependency structure to the different time granularities of the evolution of different variables, they can provide a better fit to continuous-time processes than DBNs with a fixed time granularity.

研究の動機と目的

• CTBNのための共役事前分布を構築し、ベイズ的パラメータ推定を支援すること。
• ベイズ的スコアリング手法を用いてCTBNにおける構造学習を可能にすること。
• 固定時間分解能を前提とするDBNが連続時間プロセスをモデル化する際の制限を解消すること。
• 非巡回性制約の緩和により、CTBNにおける構造学習が容易になることを示すこと。
• 個々の変数に適した時間分解能に合わせることで、CTBNが現実の連続時間プロセスにより適したフィットを実現すること。

提案手法

• CTBNのための共役事前分布を定義し、閉形式でのベイズ的パラメータ推定を可能にする。
• 定義された共役事前分布を用いて、構造学習のためのベイズ的スコアを導出する。これによりモデル同士の比較が可能になる。
• 非巡回性制約を課さずに構造学習を実行することで、最適化プロセスの簡素化を図る。
• 変数ごとの時間分解能を個別に設定できるため、異なる速度で変化するプロセスのより正確なモデリングが可能になる。
• CTBNの連続時間性を活用することで、DBNで一般的に見られる離散化によるアーチファクトを回避する。
• 潜在変数を含まない完全に観測されたデータに焦点を当て、潜在変数の存在を想定しないパラメータおよび構造学習を支援するフレームワークを提供する。

実験結果

リサーチクエスチョン

• RQ1 CTBNのための共役事前分布をどのように構築すれば、効率的なベイズ的パラメータ学習を可能にするか？
• RQ2 連続時間ダイナミクスを考慮したCTBN構造学習のためのベイズ的スコアメトリクスを導出できるか？
• RQ3 CTBNでは循環的依存関係を許容することで、DBNと比較して構造学習問題が著しく簡素化されるか？
• RQ4 変数固有の時間分解能を導入することで、CTBNが連続時間プロセスにどれほど適したフィットを実現できるか？
• RQ5 CTBNの構造学習性能は、DBNベースの手法と比較して、精度および計算効率の観点でどの程度優れているか？

主な発見

• 提案された共役事前分布により、CTBNにおける閉形式でのベイズ的パラメータ推定が可能となり、学習の効率が向上する。
• 共役事前分布から導出されたベイズ的スコアにより、非巡回性制約を必要としない効果的な構造学習が可能になる。
• 非巡回性制約が不要なことにより、CTBNにおける構造学習はDBNよりも著しく容易になる。
• 個々の変数の自然な時間分解能に合わせて調整できるため、CTBNはDBNよりも連続時間プロセスに適したフィットを実現する。
• 特に異種のダイナミクスを示す状況において、固定時間分解能を前提とするDBNに比べ、CTBNは連続時間プロセスのモデリングにおいて優れた性能を発揮する。
• 完全に観測されたデータからの正確な学習が可能であるため、時間的精度が求められる応用分野に適している。