[论文解读] Identifiability Guarantees for Causal Disentanglement from Soft Interventions

Jiaqi Zhang, Chandler Squires+4 more|arXiv (Cornell University)|Jul 12, 2023

Gene expression and cancer classification被引用 9

一句话总结

本文在广义忠实性假设下，即使潜在变量未观测，也能从成对的观测数据与软干预数据中证明潜在因果变量及结构的可 identifiability，并给出基于 AVB 的学习算法。

ABSTRACT

Causal disentanglement aims to uncover a representation of data using latent variables that are interrelated through a causal model. Such a representation is identifiable if the latent model that explains the data is unique. In this paper, we focus on the scenario where unpaired observational and interventional data are available, with each intervention changing the mechanism of a latent variable. When the causal variables are fully observed, statistically consistent algorithms have been developed to identify the causal model under faithfulness assumptions. We here show that identifiability can still be achieved with unobserved causal variables, given a generalized notion of faithfulness. Our results guarantee that we can recover the latent causal model up to an equivalence class and predict the effect of unseen combinations of interventions, in the limit of infinite data. We implement our causal disentanglement framework by developing an autoencoding variational Bayes algorithm and apply it to the problem of predicting combinatorial perturbation effects in genomics.

研究动机与目标

• 将因果解耦动机化为学习一个支持干预的潜在因果表示。
• 在潜在变量未观测的情况下，使用广义忠实性概念展示潜在因果模型的可识别性。
• 给出理论结果，识别祖先关系和直至 CD 等价类的完整因果结构。
• 开发实用学习算法以从数据中恢复 CD 等价类。
• 通过预测未见基因扰动的效应，说明在基因组学中的适用性。

提出的方法

• 将 X 表示为 f(U)，其中 U 服从 DAG G 且为未观测潜在变量；干预将 P(U_i | pa_G(i)) 改形成 P^I(U_i | pa_G(i))。
• 假设多项式、满秩混合函数 f 以及支撑条件以在线性变换下识别 U（假设 1）。
• 利用广义忠实性（假设 1–3）和干预数据（定理 1–2）在 CD 等价类范围内建立 G 和干预的可识别性。
• 使用传递闭包 TS(G) 识别祖先关系，然后将其细化为 (G, I1,…,IK) 的 CD 等价类。
• 提出基于差异的变分自编码器（DiscrepancyVAE），配合深结构因果模型解码器来从数据学习 U、G 和 I；实现对反事实/干预采样的能力。
• 将框架扩展到通过学习的 U 和 G 对组合未见干预进行预测。

实验结果

研究问题

• RQ1 当潜在变量未观测时，能否从成对的观测数据与软干预数据中识别潜在因果结构和干预目标？
• RQ2 在何种条件下（假设 1–3）可以将因果图与干预识别至 CD 等价？
• RQ3 如何从具有线性混合的干预数据中恢复祖先关系和完整直接边？
• RQ4 是否可以学习可扩展的算法以从数据估计 CD 等价类并预测未见干预效应？
• RQ5 该方法如何应用于高维生物数据，如基因组扰动？

主要发现

• 在广义忠实性概念下，即使潜在变量未观测，仍然可识别性成立（定理 1–2）。
• 潜在因果模型可识别至 CD 等价类，从而能够预测未见的干预组合。
• 干预数据允许识别祖先关系，并在假设 3 下，在许多情况下识直接边。
• 基于梯度的 AVB 方法（DiscrepancyVAE）可通过深 SCM 解码器和促进稀疏性的目标来学习 CD 等价类。
• 该框架在基因组数据上用于预测组合扰动效应。
• 该方法通过学习的潜在结构支持对未见干预组合的外推。