[論文レビュー] Learning the Structure of Dynamic Probabilistic Networks

Nir Friedman, Kevin J. Murphy+1 more|arXiv (Cornell University)|Jan 30, 2013

Bayesian Modeling and Causal Inference参考文献 28被引用数 571

ひとこと要約

本論文は、データから動的確率的ネットワーク（DPN）の構造を学習する手法を提案する。静的ベイジアンネットワークのスコアルールを動的設定に拡張し、隠れ変数が存在する場合でも構造探索を可能にする。主な貢献は、時間的依存性を効果的にモデル化できるスケーラブルなアプローチであり、実世界のデータを用いた行動予測と生物学的因果順序の両分野で実証的に検証されている。

ABSTRACT

Dynamic probabilistic networks are a compact representation of complex stochastic processes. In this paper we examine how to learn the structure of a DPN from data. We extend structure scoring rules for standard probabilistic networks to the dynamic case, and show how to search for structure when some of the variables are hidden. Finally, we examine two applications where such a technology might be useful: predicting and classifying dynamic behaviors, and learning causal orderings in biological processes. We provide empirical results that demonstrate the applicability of our methods in both domains.

研究の動機と目的

• 時系列データから動的確率的ネットワーク（DPN）の構造を学習するための手法を開発すること。
• 静的確率的ネットワーク構造スコアルールを動的状況に拡張し、時間依存構造のモデル選択を可能にすること。
• DPNにおける構造学習の過程で未観測（隠れ）変数が存在するという課題に対処すること。
• 時間的プロセスを含む実世界の応用における本手法の実用的有用性を示すこと。
• 時間的依存性モデリングを用いて生物学的プロセスにおける因果順序推論を可能にすること。

提案手法

• 時系列スライス間の時間的依存性を考慮することで、BIC や BDe などの静的ベイジアンネットワーク構造スコアルールを動的状況に拡張する。
• 複数の時刻における DPN 構造の同時尤度を評価する動的構造スコア関数を提案する。
• 拡張スコアルールに従って、可能な DPN 構造の探索空間をグリーディに探索するアルゴリズムを採用する。
• 構造学習中に未観測変数を周辺化する修正スコアを用いて、隠れ変数の取り扱いを統合する。
• 探索空間の削減と計算効率の向上のため、動的条件付き独立性仮定を導入する。
• 行動予測と生物学的プロセスモデリングの両分野における実データセットに本手法を適用し、スケーラビリティと正確性を検証する。

実験結果

リサーチクエスチョン

• RQ1 静的ベイジアンネットワークの標準的構造スコアルールを、時間的依存性を有する動的状況にどのように適応できるか？
• RQ2 一部の変数が未観測または隠れ変数である場合に、効果的な DPN 構造学習手法は何か？
• RQ3 提案手法は、時系列データから生物学的プロセスにおける因果順序を信頼性高く同定できるか？
• RQ4 隠れ変数の取り入れが、DPN 構造学習の正確性とロバストネスにどのように影響するか？
• RQ5 学習された DPN 構造は、動的行動パターンの予測や分類にどの程度有効に機能するか？

主な発見

• 拡張スコアルールは、静的手法の単純な拡張に比べ、動的状況下での構造学習の正確性を顕著に向上させる。
• 本手法は、行動予測と生物学的プロセスモデリングの両分野において、実世界の時系列データから意味のある DPN 構造を効果的に学習できた。
• 未観測変数を周辺化することで取り入れた手法は、すべての変数が観測可能であると仮定する手法よりも、よりロバストで正確なモデルを生成した。
• 実証的結果から、学習された DPN は高い予測正確性で動的行動を効果的に分類できることが示された。
• 本アプローチは、遺伝子調節ネットワークなどの生物学的プロセスにおいて、時系列発現データから妥当な因果順序を同定できた。