[論文レビュー] Exact Estimation of Multiple Directed Acyclic Graphs

Chris J. Oates, Jim Q. Smith+2 more|arXiv (Cornell University)|Apr 4, 2014

Bayesian Modeling and Causal Inference被引用数 6

ひとこと要約

本稿では、単位間で共通の変数順序を必要としない、複数の有向非巡回グラフ（DAGs）の正確な整数線形プログラミング（ILP）アプローチを提示する。これは、同時にDAG構造とそれらの相互依存性を推定でき、切断平面を用いた分枝限定法によりグローバル最適性を達成する。シミュレートデータおよびfMRIデータにおいて、1分未満で最大10個のDAG（各10ノード）を推定する効率的な性能を示している。

ABSTRACT

This paper considers the problem of estimating the structure of multiple related directed acyclic graph (DAG) models. Building on recent developments in exact estimation of DAGs using integer linear programming (ILP), we present an ILP approach for joint estimation over multiple DAGs, that does not require that the vertices in each DAG share a common ordering. Furthermore, we allow also for (potentially unknown) dependency structure between the DAGs. Results are presented on both simulated data and fMRI data obtained from multiple subjects.

研究の動機と目的

• 複数の関連するDAGを正確かつ決定論的に連合推定する手法の開発。特に、単位間での構造的類似性を活用する。
• 従来の手法が強い仮定として要求するDAG間での共通の変数順序を緩和すること。
• DAG内での変数間の依存関係に加え、DAG同士の依存関係そのものもモデリングすること。
• 正確なILPベースの構造学習を複数単位の設定に拡張し、ベイズMAP推定下でのグローバル最適性を保証すること。
• 神経画像診断などの応用分野において、共有されつつも同一でないネットワーク構造を示す複数の被験者に対して、スケーラブルな推論を可能にすること。

提案手法

• Cussens (2010) や Jaakola et al. (2010) のILPフレームワークを複数のグラフに拡張し、複数DAGの連合MAP推定を整数線形計画問題（ILP）として定式化する。
• 階層ベイズモデルを用いてDAG間で情報を共有しつつ、非同一の構造と未知の相互依存関係を許容する。
• 切断平面を用いた分枝限定法を用いてILPを解き、推定されたDAGのグローバル最適性を保証する。
• DAGの性質（非巡回性）と変数順序に基づく構造的制約を導入し、計算効率を向上させる。
• ローカルスコアの柔軟なモデリングが可能であり、数値的に推定されたスコアに対しても適応可能である。
• 補助DAGを用いた混合モデルや、鎖構造の依存関係グラフを用いた時系列モデリングなどの拡張をサポートする。

実験結果

リサーチクエスチョン

• RQ1 単位間で共通の変数順序を仮定しない状態でも、複数DAGの正確な連合推定が可能か？
• RQ2 DAG同士の依存関係そのものを、DAG構造と同時にモデリング・推定することは可能か？
• RQ3 中程度のサイズ（例：10ノード、10単位）の複数DAGに対して、正確なILPベースの連合推定は計算的に実行可能か？
• RQ4 独立推定と比較して、連合推定は構造回復の精度をどのように向上させるか？
• RQ5 補助モデルを用いて、時間的に変化するかクラスタ構造を持つDAG構造をモデル化することは可能か？

主な発見

• 提示されたILPベースの手法は、共通の変数順序を必要とせず、関連するが同一でない構造をより柔軟にモデリング可能である。
• 標準のラップトップで、10個の関連DAG（各10ノード）を1分未塔で推定し、実用的な計算効率を示している。
• シミュレートデータにおいて、独立推定と比較して連合推定は構造回復の精度を顕著に向上させ、真のDAGが類似している場合に顕著である。
• fMRIデータから得られた複数被験者の脳ネットワーク構造を同定し、共有される接続パターンと被験者固有のパターンを明らかにした。
• 局所スコアの不確実性に対してもロバストであり、時系列ダイナミクスや混合モデルなどの高階構造のモデリングにも拡張可能である。
• 計算時間は問題に強く依存し、離散最適化に特徴的なフェーズ遷移行動に影響を受けるが、中規模問題に対してもスケーラブルである。