[论文解读] Perturbations and Causality in Gaussian Latent Variable Models

Armeen Taeb, Peter Bühlmann|arXiv (Cornell University)|Jan 18, 2021

Bayesian Modeling and Causal Inference参考文献 37被引用 4

一句话总结

本文提出 DirectLikelihood，一种用于在使用非特定扰动数据的情况下识别高斯潜变量模型中因果结构的最大似然估计器，无需假设响应变量或潜变量保持未扰动。它利用系统范围内的不变性唯一恢复总体因果结构，并扩展至非高斯线性模型。

ABSTRACT

Causal inference is a challenging problem with observational data alone. The task becomes easier when having access to data from perturbing the underlying system, even when happening in a non-randomized way: this is the setting we consider, encompassing also latent confounding variables. To identify causal relations among a collections of covariates and a response variable, existing procedures rely on at least one of the following assumptions: i) the response variable remains unperturbed, ii) the latent variables remain unperturbed, and iii) the latent effects are dense. In this paper, we examine a perturbation model for interventional data, which can be viewed as a mixed-effects linear structural causal model, over a collection of Gaussian variables that does not satisfy any of these conditions. We propose a maximum-likelihood estimator -- dubbed DirectLikelihood -- that exploits system-wide invariances to uniquely identify the population causal structure from unspecific perturbation data, and our results carry over to linear structural causal models without requiring Gaussianity. We illustrate the utility of our framework on synthetic data as well as real data involving California reservoirs and protein expressions.

研究动机与目标

• 解决在干预扰动下观测数据的因果推断问题，特别是在标准假设不成立的情况下。
• 克服现有方法要求响应变量或潜变量保持未扰动的局限性。
• 开发一种无需假设密集潜效应或干预特定设计即可识别因果结构的方法。
• 建立一个适用于高斯与非高斯线性结构因果模型的框架，利用系统范围内的不变性。
• 提供一个稳健的估计器——DirectLikelihood，可从未特定扰动数据中唯一识别总体因果结构。

提出的方法

• 提出一种混合效应线性结构因果模型，作为具有潜共因的高斯变量的扰动框架。
• 开发最大似然估计器 DirectLikelihood，利用多个扰动干预中的不变性。
• 利用系统范围内的不变性特性，即使观测变量和潜变量均被扰动，也能识别因果效应。
• 在混合效应模型下推导似然函数，并通过优化以估计因果系数。
• 通过利用相同的不变性原理，将该方法扩展至非高斯线性结构因果模型。
• 通过理论分析和在合成数据及真实世界数据上的实证评估验证该估计器。

实验结果

研究问题

• RQ1 当既不假设响应变量也不假设潜变量保持未扰动时，能否从未特定扰动数据中唯一识别因果结构？
• RQ2 如何利用扰动数据中的系统范围不变性来估计因果效应，而无需假设密集潜效应？
• RQ3 在高斯潜变量模型中，所提出的 DirectLikelihood 估计器在一般扰动制度下是否保持可识别性和一致性？
• RQ4 该方法在多大程度上可推广至非高斯线性结构因果模型？
• RQ5 在违反标准假设的设置下，DirectLikelihood 的性能与现有方法相比如何？

主要发现

• DirectLikelihood 可从未特定扰动数据中唯一识别总体因果结构，且无需假设响应变量或潜变量保持未扰动。
• 即使潜效应稀疏，该方法仍能实现可识别性，克服了先前方法的关键局限。
• 在所假设的混合效应模型框架下，该估计器具有一致性和渐近有效性。
• 在合成数据上的实证结果证实了该方法在各种扰动制度下恢复真实因果结构的能力。
• 在加州水库数据和蛋白质表达数据上的应用展示了该方法在真实世界场景中的实际效用和鲁棒性。
• 该框架可超越高斯性，对具有非高斯误差的线性结构因果模型仍保持有效性。