[論文レビュー] Learning Causal Structures Using Regression Invariance

AmirEmad Ghassami, Saber Salehkaleybar+2 more|arXiv (Cornell University)|May 26, 2017

Bayesian Modeling and Causal Inference参考文献 23被引用数 13

ひとこと要約

本稿では、外部ノイズ分布が環境間で変化するマルチ環境データを用いて、線形ガウス構造方程式モデルにおける因果構造を同定するための新規手法、LRE（Learning Regression Invariance）を提案する。回帰係数の因果から効果への不変性を活用することで、標準的な条件付き独立性や介入ベースの手法が失敗する状況でも因果方向を区別でき、実験ではPCおよびIP手法と比較して高い正確性と低い無向エッジ比を達成する。

ABSTRACT

We study causal inference in a multi-environment setting, in which the functional relations for producing the variables from their direct causes remain the same across environments, while the distribution of exogenous noises may vary. We introduce the idea of using the invariance of the functional relations of the variables to their causes across a set of environments. We define a notion of completeness for a causal inference algorithm in this setting and prove the existence of such algorithm by proposing the baseline algorithm. Additionally, we present an alternate algorithm that has significantly improved computational and sample complexity compared to the baseline algorithm. The experiment results show that the proposed algorithm outperforms the other existing algorithms.

研究の動機と目的

• 標準的な観測手法がマークフ・同値性およびガウスノイズのため失敗する線形ガウスモデルにおける因果構造同定の課題に対処すること。
• 環境間での外生的ノイズ分布の変化を活用して、制御された介入なしに因果方向を同定する手法を開発すること。
• マルチ環境不変性仮定の下で因果発見の完全性を達成するアルゴリズムを提案すること。
• ベースライン手法と比較して計算量および標本複雑度を低減しつつ、高い正確性を維持すること。

提案手法

• 本手法は、複数の環境において、各変数から他のすべての変数への回帰係数の不変性をテストすることで因果構造を同定する。
• 2段階のアルゴリズムを用いる：まず、スケルトンを回復するための条件付き独立性検定（例：PCアルゴリズム）；次に、エッジの向きを決定するための回帰不変性検定。
• 各ペアの環境について、変数YのXに対する回帰係数が環境間で不変かどうかを仮説検定で評価する。
• 各検定の帰無仮説は回帰係数が不変であることである。帰無仮説を棄却すれば、XはYの原因であると示唆される。
• アルゴリズムは有意水準αを用いて誤り率を制御し、出力の高確率的正しさを保証する。
• 最適化版では、第1段階で完全な条件付き独立性検定を回避することで計算複雑度を低減する。

実験結果

リサーチクエスチョン

• RQ1 マークフ同値性のため標準的な条件付き独立性検定が失敗する線形ガウスモデルにおいて、因果方向を同定できるか？
• RQ2 環境間での外生的ノイズ分布の変化を活用して、制御された介入なしに因果構造を同定できるか？
• RQ3 不変性仮定の下で、完全性を達成する計算効率の良いアルゴリズムを設計できるか？
• RQ4 提案手法は、PC、IP、LiNGAMなどの既存手法と比較して正確性および頑健性において優れているか？

主な発見

• 2つの環境で1つの変数の外生的ノイズのみが摂動される状況において、LREアルゴリズムはPCアルゴリズムと比較して無向エッジ（UD）比を8%低減した。
• LiNGAMと比較して、LREの誤差比は顕著に低く、LiNGAMの約2倍低い。
• Invariants Prediction（IP）手法の誤差比は、摂動される変数の数が増えるにつれて上昇する。これはIP手法が、目的変数のノイズ分布が不変であると仮定しているためである。
• 合成データにおいて、LREアルゴリズムは誤差比および有向エッジ回復の両面でPCおよびIPアルゴリズムを上回った。
• 実際の教育到達度データでは、LREはベースイヤーの総合テストスコアおよび父親の大学教育を、教育到達度の顕著な原因として正しく同定した。これはIP手法の結果と整合的であった。