[论文解读] Causal Imputation via Synthetic Interventions

Chandler Squires, Dennis Shen+3 more|arXiv (Cornell University)|Nov 5, 2020

Advanced Causal Inference Techniques参考文献 21被引用 6

一句话总结

本文提出 SI-A，一种新颖的因果填补方法，通过利用正则化回归从供体动作构建合成动作，将合成干预方法扩展至预测未测试情境（如细胞类型）下动作（如化合物）的影响。在潜在因子模型下，SI-A 提供有效的因果估计，在 CMAP 数据集上表现优于基线方法，中位 NRMSE 为 0.34，余弦相似度为 0.68——显著优于次优基线方法。

ABSTRACT

Consider the problem of determining the effect of a compound on a specific cell type. To answer this question, researchers traditionally need to run an experiment applying the drug of interest to that cell type. This approach is not scalable: given a large number of different actions (compounds) and a large number of different contexts (cell types), it is infeasible to run an experiment for every action-context pair. In such cases, one would ideally like to predict the outcome for every pair while only having to perform experiments on a small subset of pairs. This task, which we label "causal imputation", is a generalization of the causal transportability problem. To address this challenge, we extend the recently introduced synthetic interventions (SI) estimator to handle more general data sparsity patterns. We prove that, under a latent factor model, our estimator provides valid estimates for the causal imputation task. We motivate this model by establishing a connection to the linear structural causal model literature. Finally, we consider the prominent CMAP dataset in predicting the effects of compounds on gene expression across cell types. We find that our estimator outperforms standard baselines, thus confirming its utility in biological applications.

研究动机与目标

• 为解决在测试所有动作-情境组合不可行时因果推断的可扩展性挑战，特别是在药物重定位等生物应用中。
• 将合成干预（SI）估计器推广至处理动作-情境结果数据中任意稀疏模式的情形。
• 开发一种方法，利用所有可用数据（涵盖动作与情境）以提升反事实预测性能。
• 在潜在因子模型下建立该方法的理论有效性，并将其与线性结构因果模型联系起来。
• 在 CMAP 数据集上实证验证该方法，证明其在预测新细胞类型中化合物效应方面表现优越。

提出的方法

• 通过沿动作维度（化合物）而非情境维度（细胞类型）进行回归，扩展原始合成干预（SI）估计器，实现合成动作的构建。
• 使用正则化回归学习权重，将供体动作组合成合成动作，随后用于预测目标情境下的结果。
• 利用跨动作与情境的所有可用数据训练回归模型，提升数据效率与鲁棒性。
• 采用潜在因子模型假设，确保在所提框架下因果估计的可识别性与有效性。
• 通过与线性结构因果模型的关联，重新诠释 SI 框架，为该方法提供理论基础。
• 将该方法应用于 CMAP 数据集，利用 20,000 种化合物在 70 种细胞类型中的基因表达特征，预测未观测到的化合物-细胞类型效应。

实验结果

研究问题

• RQ1 我们能否仅基于观测到的稀疏动作-情境结果子集，准确预测某项动作在未应用该动作的情境下的结果？
• RQ2 在具有结构化稀疏性的数据设置中，沿动作维度（而非情境维度）回归是否能带来更优的反事实预测？
• RQ3 在何种条件下，合成干预估计器能为未观测到的动作-情境对提供有效的因果估计？
• RQ4 该方法的性能如何依赖于供体动作数量与训练情境数量？
• RQ5 在真实世界生物数据集（如 CMAP）中，潜在因子模型假设是否合理？该假设能否实现准确的因果填补？

主要发现

• SI-A 在 CMAP 数据集上实现中位归一化均方根误差（NRMSE）为 0.34，显著优于最接近的基线方法（NRMSE 为 0.41）。
• SI-A 将预测效应与真实效应之间的余弦相似度从基线最佳值 0.44 提升至 0.68，表明与实际生物效应的对齐性更好。
• 该方法的性能对供体动作数量与训练情境数量高度敏感，随着两者增加，性能显著提升。
• 对 CMAP 数据集奇异值谱的可视化分析证实其具有低秩结构（前 53 个主成分解释了 95% 的方差），支持潜在因子模型假设。
• 当沿动作方向回归时，假设 2（动作效应不变性）的检验统计量更低，解释了为何 SI-A 优于 SI-C（后者沿情境方向回归）。
• SI-A 显著优于原始 SI 估计器，表明在该生物场景下，建模动作不变性比建模情境不变性更有效。