[論文レビュー] Causal de Finetti: On the Identification of Invariant Causal Structure in Exchangeable Data

Siyuan Guo, Viktor R. Tóth+2 more|arXiv (Cornell University)|Mar 29, 2022

Bayesian Modeling and Causal Inference被引用数 4

ひとこと要約

本稿は、不変因果機構（ICM）を活用することで、交換可能なデータにおける一意な因果構造の同定に形式的基盤を提供する因果 de Finetti 定理を導入する。特定の条件付き独立性の性質のもとで、交換可能なプロセスは ICM 生成モデルとして表現可能であり、条件付き独立性の検定により一意な因果同定が可能となる。これは、制約ベースの因果同定における i.i.d. データの根本的同定不能性の限界を克服するものである。

ABSTRACT

Constraint-based causal discovery methods leverage conditional independence tests to infer causal relationships in a wide variety of applications. Just as the majority of machine learning methods, existing work focuses on studying $ extit{independent and identically distributed}$ data. However, it is known that even with infinite i.i.d.$\ $ data, constraint-based methods can only identify causal structures up to broad Markov equivalence classes, posing a fundamental limitation for causal discovery. In this work, we observe that exchangeable data contains richer conditional independence structure than i.i.d.$\ $ data, and show how the richer structure can be leveraged for causal discovery. We first present causal de Finetti theorems, which state that exchangeable distributions with certain non-trivial conditional independences can always be represented as $ extit{independent causal mechanism (ICM)}$ generative processes. We then present our main identifiability theorem, which shows that given data from an ICM generative process, its unique causal structure can be identified through performing conditional independence tests. We finally develop a causal discovery algorithm and demonstrate its applicability to inferring causal relationships from multi-environment data. Our code and models are publicly available at: https://github.com/syguo96/Causal-de-Finetti

研究の動機と目的

• i.i.d. 因果同定における根本的限界、すなわち同マークフ・同値クラスしか同定できないという問題を、より豊かな統計的枠組みとしての交換可能なデータの研究によって解決すること。
• 交換可能なプロセスに適用可能な de Finetti 型の定理の新クラスを導入することで、独立因果機構（ICM）仮定を形式的に正当化すること。
• ICM 生成プロセスのもとで、真の因果構造が条件付き独立性の検定によって一意に同定可能であることを確立すること。
• 多環境データと交換可能なプロセスを結びつけ、このようなデータに対する実用的な因果同定アルゴリズムを開発すること。
• 因果推論における非 i.i.d. 群分けデータと ICM 仮定に依存する既存手法の確率的基盤を提供すること。

提案手法

• 交換可能な分布において非自明な条件付き独立性を示すものとして、ICM 生成プロセスとして特徴づける因果 de Finetti 定理を導入する。
• 潜在的パラメータが各因果機構を支配するものであり、それらが統計的に独立であるプロセスを ICM 生成プロセスと定義する。
• 主な同定可能性定理を証明：データが ICM 生成プロセスから生じるならば、因果グラフは条件付き独立性の検定によって一意に回復可能である。
• 多環境データを交換可能なプロセスの i.i.d. コピーの有限周辺分布として再解釈することで、複数の環境からの因果同定を可能にする。
• 交換可能なプロセスの豊かな構造を活用し、グループ化されたデータに対する条件付き独立性の検定に基づく因果同定アルゴリズムを開発する。
• d-分離とマルコフ性質を用いて、ICM 仮定の下で因果グラフにおける条件付き独立関係を形式的に確立する。

実験結果

リサーチクエスチョン

• RQ1 i.i.d. データとは異なり、交換可能なデータはマークフ・同値クラスを超えて一意な因果構造を同定可能か？
• RQ2 どのような形式的確率的条件が、交換可能なプロセスが独立因果機構（ICM）生成プロセスとして表現可能であることを保証するか？
• RQ3 交換可能なデータにおいて、どのような条件下で条件付き独立性の検定によって因果構造が一意に同定可能か？
• RQ4 多環境データをどのようにして交換可能なプロセスに正式に結びつけるか？ これにより因果同定が可能になる。
• RQ5 非 i.i.d. データ設定における独立因果機構仮定の理論的根拠は何か？

主な発見

• i.i.d. データよりも交換可能なデータにはより豊かな条件付き独立構造が含まれており、i.i.d. メソッドが失敗する状況でも一意な因果構造の同定が可能である。
• 本稿は、特定の条件付き独立性の性質を持つ交換可能なプロセスが ICM 生成モデルと等価であることを示すことで、因果 de Finetti 定理を確立し、ICM 仮定を形式的に正当化する。
• 主な同定可能性定理により、データが ICM 生成プロセスから生成される場合、真の因果グラフが条件付き独立性の検定によって一意に同定可能であることが証明される。
• 多環境データは、交換可能なプロセスの i.i.d. コピーの有限周辺分布として見なすことができ、非 i.i.d. 環境における因果同定への正式な接続を提供する。
• 提案されたアルゴリズムは、実験により検証されたように、条件付き独立性の検定を用いて多環境データから因果関係を的確に同定する。
• 本研究は、制約ベースの因果同定における重要な限界を解消し、交換可能性が i.i.d. 仮定では達成できない一意な同定を可能にすることを示している。