[论文解读] Causal inference using invariant prediction: identification and confidence intervals

Jonas Peters, Peter Bühlmann+1 more|arXiv (Cornell University)|Jan 6, 2015

Advanced Causal Inference Techniques被引用 4

一句话总结

本文提出了一种利用多实验环境中不变预测进行因果推断的方法，通过识别在干预下保持预测准确性的模型来确定因果预测变量。该方法为因果效应提供了有效的置信区间，并在具有干预的高斯结构方程模型下建立了可识别性。

ABSTRACT

What is the difference of a prediction that is made with a causal model and a non-causal model? Suppose we intervene on the predictor variables or change the whole environment. The predictions from a causal model will in general work as well under interventions as for observational data. In contrast, predictions from a non-causal model can potentially be very wrong if we actively intervene on variables. Here, we propose to exploit this invariance of a prediction under a causal model for causal inference: given different experimental settings (for example various interventions) we collect all models that do show invariance in their predictive accuracy across settings and interventions. The causal model will be a member of this set of models with high probability. This approach yields valid confidence intervals for the causal relationships in quite general scenarios. We examine the example of structural equation models in more detail and provide sufficient assumptions under which the set of causal predictors becomes identifiable. We further investigate robustness properties of our approach under model misspecification and discuss possible extensions. The empirical properties are studied for various data sets, including large-scale gene perturbation experiments.

研究动机与目标

• 通过利用不同实验设置或干预下预测性能的不变性，开发一种识别因果预测变量的方法。
• 在一般条件下（包括模型误设）提供因果效应的统计置信区间，确保其有效性。
• 在具有干预的结构方程模型下，特别是高斯设定下，建立因果预测变量的理论可识别性。
• 在无需干预目标知识或完整结构模型拟合的情况下，实现因果发现。
• 将该框架扩展至存在隐变量的情形，通过类似工具变量的数据分割方法，并探讨在模型误设下的鲁棒性。

提出的方法

• 从多个环境（例如，观察性和干预性制度）收集数据，其中预测变量和结果的联合分布可能不同。
• 定义一个预测模型，并在每个环境中评估其预测性能（例如，均方误差或对数似然）。
• 基于条件分布相等性的统计检验，识别在所有环境中均保持预测性能不变的预测变量子集。
• 在高维设定下使用快速近似方法（方法II），并将该框架扩展至二值结果的逻辑回归。
• 利用渐近理论和重抽样技术，构建因果预测变量的置信集以及因果参数的置信区间。
• 将该方法应用于具有干预的结构方程模型，证明在足够正则性和分布假设下，真实因果预测变量集合的可识别性。

实验结果

研究问题

• RQ1 能否通过不同实验环境中预测性能的不变性，一致地识别出因果预测变量？
• RQ2 在何种条件下，可使用不变预测框架识别因果预测变量集合？
• RQ3 在此框架下，如何构建因果效应的有效置信区间，特别是在模型误设的情况下？
• RQ4 该方法能否扩展至存在隐性混杂因子或反馈结构的情形？
• RQ5 在真实世界数据（如基因扰动实验或教育成就数据）中，该方法的经验功效和鲁棒性如何？

主要发现

• 在高概率下，真实因果预测变量集合包含于不变模型集合中，从而在温和正则性条件下实现了有效的因果发现。
• 在具有干预的高斯结构方程模型下，若干预分布和误差结构满足充分条件，则因果预测变量集合具有可识别性。
• 在教育成就数据集中，成就测试分数对获得学士学位的影响的置信区间不包含零，表明存在显著的正向因果效应。
• 父亲大学教育指标的置信区间同样不包含零，表明其对学士学位获得具有显著的负向因果效应。
• 该方法在无需干预目标知识或完整因果图估计的情况下，成功识别出因果预测变量。
• 该方法在模拟和真实数据中均表现出鲁棒性，包括大规模基因扰动实验，且在某些情况下即使存在模型误设也能提供有效的推断。