[論文レビュー] Causal Discovery from Heterogeneous/Nonstationary Data with Independent Changes

Biwei Huang, Kun Zhang+5 more|arXiv (Cornell University)|Mar 5, 2019

Bayesian Modeling and Causal Inference参考文献 45被引用数 14

ひとこと要約

本論文は、ドメインや時間における独立した変化を用いて、異種または非定常データからの因果発見のための非パラメトリック枠組みCD-NODを提案する。条件付き独立性検定を用いて因果スケルトンを同定し、分布シフトを用いて因果の向きを推定し、メカニズムの変化の背後にある低次元の「駆動要因」を推定する。これにより、交絡要因や非定常性が存在する中でも、頑健な因果推論が可能になる。

ABSTRACT

It is commonplace to encounter heterogeneous or nonstationary data, of which the underlying generating process changes across domains or over time. Such a distribution shift feature presents both challenges and opportunities for causal discovery. In this paper, we develop a framework for causal discovery from such data, called Constraint-based causal Discovery from heterogeneous/NOnstationary Data (CD-NOD), to find causal skeleton and directions and estimate the properties of mechanism changes. First, we propose an enhanced constraint-based procedure to detect variables whose local mechanisms change and recover the skeleton of the causal structure over observed variables. Second, we present a method to determine causal orientations by making use of independent changes in the data distribution implied by the underlying causal model, benefiting from information carried by changing distributions. After learning the causal structure, next, we investigate how to efficiently estimate the "driving force" of the nonstationarity of a causal mechanism. That is, we aim to extract from data a low-dimensional representation of changes. The proposed methods are nonparametric, with no hard restrictions on data distributions and causal mechanisms, and do not rely on window segmentation. Furthermore, we find that data heterogeneity benefits causal structure identification even with particular types of confounders. Finally, we show the connection between heterogeneity/nonstationarity and soft intervention in causal discovery. Experimental results on various synthetic and real-world data sets (task-fMRI and stock market data) are presented to demonstrate the efficacy of the proposed methods.

研究の動機と目的

• ドメインや時間にわたるメカニズムの変化に起因する分布シフトを伴うデータにおける因果発見の課題に対処すること。
• 窓分割や厳密な分布仮定に依存しない非パラメトリック手法を開発すること。
• メカニズムが変化する変数を同定し、非定常性を示す観測データから因果スケルトンを回復すること。
• データ分布の独立した変化を活用して因果エッジの向きを特定し、因果の向き同定を向上させること。
• 再帰的ヒルバート空間（RKHS）における変化表現の低ランク近似を用いて、非定常性の背後にある低次元の「駆動要因」を推定すること。

提案手法

• 核ベースの条件付き独立性検定を用いた制約ベースの手順を提案し、メカニズムが変化する変数を検出し、因果スケルトンを回復する。
• 核分布埋め込み（KDE）を用いて結合分布を表現し、非パラメトリックな方法で条件付き独立性を検定する。
• 変数間で独立している分布シフトを活用することで、因果エッジの向きを特定する「独立変化原理」を導入する。
• 因果の向きを推定するために、周辺分布と条件付き分布の間の条件付き独立性を、去交絡集合Zを用いて評価する。
• 再帰的ヒルバート空間（RKHS）における変化表現の低ランク近似を用いて、非定常性の「駆動要因」を推定する。
• 同時的および遅延的な因果効果を有する動的システムを扱えるようにフレームワークを拡張し、定常な交絡要因に対応する。

実験結果

リサーチクエスチョン

• RQ1 異種または非定常データにおいて、メカニズムがドメインや時間にわたって変化する場合、どのようにして因果スケルトンを信頼性高く回復できるか？
• RQ2 メカニズムの独立的変化に起因する分布シフトを活用することで、介入なしに因果の向きを同定できるか？
• RQ3 メカニズムの変化の背後にある原因を表す低次元で解釈可能な表現（「駆動要因」）をどのように推定できるか？
• RQ4 観測されない交絡要因が存在する中でも、データの異種性が因果構造の同定を改善するか？
• RQ5 非定常性とソフト介入の因果発見における関係は何か？

主な発見

• 提案されたCD-NODフレームワークは、観測データのみを用いて、異種的および非定常的データから因果スケルトンとその向きを効果的に回復した。
• 本手法は、分布の独立的変化を活用して因果の向きを特定し、合成データおよび実世界データ（fMRIや株価市場データを含む）において高い精度を達成した。
• 「駆動要因」推定手法は、非定常性の背後にある原因を捉える低次元表現を抽出した。
• 本フレームワークは、さまざまな交絡状況（定常な未観測交絡要因を含む）においても頑健であることが示され、交絡が存在する中でもデータの異種性が因果発見を支援することが明らかになった。
• 理論的分析により、独立変化原理のもとで、3つの条件（コリダー、単一変化、エッジ関連変化）の少なくとも1つが満たされれば、因果の向きが同定可能であることが確認された。
• タスクfMRIおよび株価市場データに対する実験結果から、CD-NODは因果構造回復およびメカニズムシフト検出において、ベースライン手法を上回ることを示した。