[論文レビュー] Identifiability Guarantees for Causal Disentanglement from Soft Interventions

Jiaqi Zhang, Chandler Squires+4 more|arXiv (Cornell University)|Jul 12, 2023

Gene expression and cancer classification被引用数 9

ひとこと要約

この論文は、潜在因果変数と構造の同定可能性を、潜在変数が観測されない場合でも、 unpaired な観測データと soft-interventional データ、高度な faithful 率假設の下で証明し、AVB ベースの学習アルゴリズムを提示する。

ABSTRACT

Causal disentanglement aims to uncover a representation of data using latent variables that are interrelated through a causal model. Such a representation is identifiable if the latent model that explains the data is unique. In this paper, we focus on the scenario where unpaired observational and interventional data are available, with each intervention changing the mechanism of a latent variable. When the causal variables are fully observed, statistically consistent algorithms have been developed to identify the causal model under faithfulness assumptions. We here show that identifiability can still be achieved with unobserved causal variables, given a generalized notion of faithfulness. Our results guarantee that we can recover the latent causal model up to an equivalence class and predict the effect of unseen combinations of interventions, in the limit of infinite data. We implement our causal disentanglement framework by developing an autoencoding variational Bayes algorithm and apply it to the problem of predicting combinatorial perturbation effects in genomics.

研究の動機と目的

• 介入をサポートする潜在因果表現として causal disentanglement の学習を動機付ける。
• 潜在変数が観測されない場合の generalized faithfulness ノ notion の下で潜在因果モデルの同定可能性を示す。
• CD 等価クラスまでの祖先関係と完全な因果構造を同定する理論結果を提供する。
• データから CD 等価クラスを回収する実用的な学習アルゴリズムを開発する。
• 未知の遺伝子操作の効果を予測することでゲノミクスへの適用性を実証する。

提案手法

• X を f(U) とし、U は DAG G をフォローする潜在変数で観測されない; 操作は P(U_i | pa_G(i)) を P^I(U_i | pa_G(i)) に変更する。
• 多項式で全rank の混合関数 f とサポート条件を仮定して、線形変換まで U を同定可能とする（Assumption 1）。
• generalized faithfulness（Assumptions 1–3）と介入データを用いて、G と介入を CD 等価クラスまで同定可能性を確立する（Theorems 1–2）。
• G の祖先関係を識別するために transitive closure TS(G) を用い、そこから (G, I1,…,IK) の CD 等価クラスへ精錬する。
• データから U, G, I を学習するために、構造的因果モデルデコーダを備えた勾配ベースの DiscrepancyVAE（DiscrepancyVAE）を提案し、反事実/介入サンプリングを可能にする。
• 学習済みの U と G を用いて、組合せの未知介入を予測する枠組みを拡張する。）

実験結果

リサーチクエスチョン

• RQ1 潜在変数が観測されない場合でも、unpaired な観測データと soft-interventional データから潜在因果構造と介入ターゲットを同定できるか。
• RQ2 条件（Assumptions 1–3）の下で、因果グラフと介入を CD 等価まで同定できるのか。
• RQ3 線形混合を用いた介入データから祖先関係と直接辺をどのように回収するか。
• RQ4 データから CD 等価クラスを推定するスケーラブルなアルゴリズムを学習し、未知の介入効果を予測できるか。
• RQ5 ゲノミクスなど高次元生物学データへの適用はどうか。

主な発見

• 潜在変数が観測されない場合でも一般化信号忠実性ノ条項の下で同定可能性が達成できる（Theorems 1–2）。
• 潜在因果モデルは CD 等価クラスまで同定可能で、未知の介入組み合わせを予測できる。
• 介入データにより祖先関係を同定でき、Assumption 3 の下で多くの場合直接辺も特定できる。
• 勾配ベースの AVB アプローチ（DiscrepancyVAE）を用い、深い SCM デコーダと sparsity を促進する目的で CD 等価クラスを学習できる。
• ゲノミクスデータ上で組合せ的な撹乱効果の予測に適用可能性を実証。
• 学習済み潜在構造を通じて未知の介入組み合わせへ外挿可能。