[論文レビュー] Causal Discovery with Continuous Additive Noise Models

Jonas Peters, Joris M. Mooij+2 more|UvA-DARE (University of Amsterdam)|Sep 26, 2013

Bayesian Modeling and Causal Inference参考文献 59被引用数 154

ひとこと要約

本稿では、加法的ノイズモデル（ANM）を用いた連続変数における因果発見の手法を提案する。非線形性と非ガウス性の下で、忠実性に基づく手法とは異なり、観測データのみから真の因果DAGが一意に特定可能であるという、弱い条件下での理論的同定可能性を示している。主な貢献は、ANM仮定の下で因果グラフの理論的同定可能性の確立であり、有限標本における実用的アルゴリズム（RESITや独立性スコア法）の開発も行われている。

ABSTRACT

We consider the problem of learning causal directed acyclic graphs from an observational joint distribution. One can use these graphs to predict the outcome of interventional experiments, from which data are often not available. We show that if the observational distribution follows a structural equation model with an additive noise structure, the directed acyclic graph becomes identifiable from the distribution under mild conditions. This constitutes an interesting alternative to traditional methods that assume faithfulness and identify only the Markov equivalence class of the graph, thus leaving some edges undirected. We provide practical algorithms for finitely many samples, RESIT (Regression with Subsequent Independence Test) and two methods based on an independence score. We prove that RESIT is correct in the population setting and provide an empirical evaluation.

研究の動機と目的

• 忠実性に基づく因果発見手法の限界（Markov同値類にしか同定できず、エッジの向きが不明であること）を解消すること。
• 真の因果有向無閉路グラフ（DAG）が、連合観測分布から同定可能となる条件を確立すること。
• 加法的ノイズモデルフレームワーク下で、有限i.i.d.標本からの因果発見のための実用的アルゴリズムを開発すること。
• 非線形性と非ガウス性ノイズの下で、変数間の因果方向が一般に同定可能であることを証明すること。
• 因果最小性が成り立たない場合にも一般化できる理論的結果を拡張し、現実世界のデータ設定における頑健性を確保すること。

提案手法

• 各変数が親の非パラメトリック関数と独立なノイズの和で表される構造的方程式モデル（ANM）を用いる。
• RESIT（回帰後の独立性検定）アルゴリズムを適用：各変数をその潜在的親変数で回帰し、残差の独立性を検定する。
• 残差と親変数の統計的独立性を評価することで、各潜在的DAGのスコアを算出する独立性スコア法を採用する。
• X → Y であれば、Y = f(X) + N（NはXと独立）となるが、fが線形でない限り逆方向では同定不能であるという事実を活用する。
• 理論的解析では、理想状態下でのアルゴリズム正しさを検証するため、独立性オракルを用いる。
• 反復的に残差が独立であるノードを削除することで、因果最小性と非線形性の下で正しいトポロジカル順序を回復する。

実験結果

リサーチクエスチョン

• RQ1 忠実性仮定をせず、連合観測分布から真の因果DAGがどの条件下で同定可能となるか。
• RQ2 非パラメトリックかつ非線形な構造的関数を持つ場合、加法的ノイズモデルが2変数間の因果方向を一意に特定可能か。
• RQ3 ANMフレームワーク下で、有限i.i.d.標本からの因果発見のための実用的アルゴリズムをどのように設計できるか。
• RQ4 因果最小性仮定を緩和した場合、同定可能性にどのような影響が生じるか。
• RQ5 最小グラフ仮定が成り立たない場合でも、正しいトポロジカル順序が回復可能かどうか保証できるか。

主な発見

• 非線形構造的関数と非ガウス性ノイズを伴う加法的ノイズモデルの下で、真の因果DAGは連合分布から一般に同定可能である。
• RESITは、母集団設定下で正当に正しい。回帰後の残差の独立性を検証することで、因果グラフを正しく同定する。
• 変数YがXの非線形関数とノイズの和で表され、ノイズがXと独立である場合、逆方向（XをYの関数として表す）は、fが線形でない限り、同じ独立性条件を満たさないことが証明されている。
• ガウス性ノイズを伴う非線形関数についての新たな同定可能性結果（補題30）が確立され、このようなモデルは一般に同定可能であることが示された。
• 理論的解析により、Mooijら（2009）が提案したアルゴリズムが独立性オラクルにアクセスできる場合、正しく動作することが確認され、文献における予想が解消された。
• ANM仮定の下で、最小グラフ $σ_{0}^{min}$ は一意に定まり、ANM制約を満たす任意のグラフは、この最小構造の部分グラフである。