[論文レビュー] Bayesian Discovery of Linear Acyclic Causal Models

Patrik O. Hoyer, Antti Hyttinen|arXiv (Cornell University)|May 9, 2012

Bayesian Modeling and Causal Inference参考文献 12被引用数 21

ひとこと要約

この論文は、非ガウス観測データから線形非巡回因果モデルを発見するためのベイジアンスコアベースの手法を紹介している。非ガウス性を活用することで、従来の制約ベースやスコアベースの手法を超えて因果構造学習を改善する。完全なR実装が提供されており、小さなネットワークにおいて、既存の手法と同等またはそれ以上の精度を達成するとともに、事後スコアを用いて不確実性を定量化している。

ABSTRACT

Methods for automated discovery of causal relationships from non-interventional data have received much attention recently. A widely used and well understood model family is given by linear acyclic causal models (recursive structural equation models). For Gaussian data both constraint-based methods (Spirtes et al., 1993; Pearl, 2000) (which output a single equivalence class) and Bayesian score-based methods (Geiger and Heckerman, 1994) (which assign relative scores to the equivalence classes) are available. On the contrary, all current methods able to utilize non-Gaussianity in the data (Shimizu et al., 2006; Hoyer et al., 2008) always return only a single graph or a single equivalence class, and so are fundamentally unable to express the degree of certainty attached to that output. In this paper we develop a Bayesian score-based approach able to take advantage of non-Gaussianity when estimating linear acyclic causal models, and we empirically demonstrate that, at least on very modest size networks, its accuracy is as good as or better than existing methods. We provide a complete code package (in R) which implements all algorithms and performs all of the analysis provided in the paper, and hope that this will further the application of these methods to solving causal inference problems.

研究の動機と目的

• 非ガウスデータを用いる際、出力に不確実性を表現できないという既存の因果発見手法の限界に対処すること。
• 線形非巡回構造方程式モデルにおける非ガウス性を活用するベイジアンスコアベースのアプローチを開発すること。
• 学習された因果構造における信頼性を定量化し、単一のグラフ出力にとどまらないこと。
• 再現可能で拡張可能な因果推論のための実用的でオープンソースのR実装を提供すること。
• 既存の最先端手法と比較して、小さな〜中程度のサイズのネットワークにおける本手法の性能を実証的に検証すること。

提案手法

• 本手法は、観測された非ガウスデータに基づいて、さまざまな因果グラフ構造に事後確率を割り当てるベイジアンスコアフレームワークを採用する。
• 非ガウス誤差項を有する線形非巡回構造方程式モデルを用いてデータをモデル化し、非ガウス性の同定可能性特性を活用する。
• スコアは、パラメータに関する周辺尤度の統合を用いて計算され、モデルの複雑さとデータへの適合度を両方とも考慮する。
• マーカフチェーンモンテカルロ（MCMC）やその他の確率的探索手法を用いて、可能な因果グラフの空間を探索する。
• グラフ上の事後分布により不確実性の定量化が可能となり、スコアが高いほどより妥当な構造であることを示す。
• Rで実装されており、構造学習、モデルスコアリング、および実データおよび合成データに対する事後推論のためのツールが含まれる。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンスコアベースの手法は、非ガウス性を効果的に活用して線形非巡回モデルにおける因果構造発見を改善できるか？
• RQ2 本手法は、小さなネットワークにおいて、既存の制約ベースおよびスコアベースの手法と比較してどの程度の精度を達成するか？
• RQ3 本手法は、既存の非ガウス手法が単一のグラフのみを返すのとは異なり、因果構造学習における不確実性をどの程度定量化できるか？
• RQ4 実際の応用において、中程度のサイズのネットワークに対して本手法は頑健でスケーラブルか？
• RQ5 完全でオープンソースのRパッケージを用いて、本手法は効果的に実装され、応用可能か？

主な発見

• 本手法は、小さな〜中程度のサイズのネットワークにおいて、既存の最先端手法と同等またはそれ以上の精度を達成する。
• 本手法は、異なるグラフ構造に事後スコアを割り当てることで、因果構造発見における不確実性を効果的に定量化する。これは、従来の非ガウス手法が単一のグラフのみを返すのとは対照的である。
• 誤差項における非ガウス性の使用により、ガウス仮定下では曖昧であった因果順序の同定が可能になる。
• 合成データを用いた実証的評価では、本手法が高事後確率で真の因果構造を信頼性高く回復することが示された。
• 完全なRパッケージ実装が提供されており、再現性が保たれ、実世界の因果推論タスクへの広範な応用が可能である。
• 結果として、非ガウス性を用いたベイジアンスコアリングは、線形非巡回因果発見における既存のアプローチに対する原理的かつ効果的な代替手段であることが示された。