[论文解读] Causal inference in partially linear structural equation models: identifiability and estimation

Jan Ernest, Dominik Rothenhaüsler+1 more|arXiv (Cornell University)|Jul 20, 2016

Bayesian Modeling and Causal Inference被引用 8

一句话总结

本文为具有高斯噪声的部分线性结构方程模型（PLSEMs）建立了全面的可识别性理论，采用图模型、变换、函数及因果排序四种表征方式。提出了一种基于评分的估计方法，能够一致地恢复PLSEM的分布等价类，从而实现在高维设置下的因果结构学习。

ABSTRACT

We consider the identifiability and estimation of partially linear additive structural equation models with Gaussian noise (PLSEMs). Existing identifiability results in the framework of additive SEMs with Gaussian noise are limited to linear and nonlinear SEMs, which can be considered as special cases of PLSEMs with vanishing nonparametric or parametric part, respectively. We close the wide gap between these two special cases by providing a comprehensive theory of the identifiability of PLSEMs by means of (A) a graphical, (B) a transformational, (C) a functional and (D) a causal ordering characterization of PLSEMs that generate a given distribution. In particular, the characterizations (C) and (D) answer the fundamental question to which extent nonlinear functions in additive SEMs with Gaussian noise restrict the set of potential causal models and hence influence the identifiability. On the basis of the transformational characterization (B) we provide a score-based estimation procedure that outputs the graphical representation (A) of the distribution equivalence class of a given PLSEM. We derive its (high-dimensional) consistency and demonstrate its performance on simulated datasets.

研究动机与目标

• 通过为具有高斯噪声的部分线性SEM建立统一的可识别性理论，弥合线性与非线性加法SEM之间的差距。
• 利用四种不同的框架——图模型、变换、函数及因果排序——刻画能够生成给定分布的因果模型集合。
• 回答一个基本问题：在加法SEM中，非线性函数在多大程度上限制了潜在因果模型的集合，从而影响可识别性。
• 开发一种计算上可行的基于评分的估计程序，输出PLSEM的分布等价类的图表示。
• 建立所提估计方法的高维一致性，并通过模拟数据验证其性能。

提出的方法

• 本文引入一种变换表征（B），通过误差变量的特定变换，将PLSEM的分布与其潜在结构方程联系起来。
• 基于变换表征构建一种基于评分的估计程序，实现对分布等价类图结构的恢复。
• 利用函数表征和因果排序表征（C与D）来约束与观测数据分布一致的潜在因果模型集合。
• 该估计程序设计为在高维设置下保持一致性，即变量数量可随样本量增长。
• 采用基于似然的评分函数，在条件独立性结构中搜索，识别真实底层图的马尔可夫等价类。
• 通过模拟实验验证该算法，结果表明在各种高维配置下能够准确恢复等价类。

实验结果

研究问题

• RQ1 在具有高斯噪声的加法SEM中，非线性函数在多大程度上限制了潜在因果模型的集合，从而影响可识别性？
• RQ2 能否为部分线性SEM建立一个全面的可识别性理论，使其同时推广线性和非线性SEM？
• RQ3 如何利用图模型、变换、函数及因果排序框架来刻画PLSEM的分布等价类？
• RQ4 能否构建一种基于评分的估计方法，使其在高维设置下一致地恢复等价类的图结构？
• RQ5 所提方法在从模拟数据中恢复真实因果结构方面的实际表现如何？

主要发现

• 本文建立了四种不同的表征方式——图模型、变换、函数及因果排序——完整描述了生成给定分布的所有PLSEMs集合。
• 变换表征使得基于评分的估计程序得以设计，该程序能一致地恢复PLSEM的分布等价类。
• 所提方法实现了高维一致性，即在变量数量随样本量增长时仍能正确识别等价类。
• 在模拟数据集上的实证评估表明，该方法能准确恢复PLSEM的底层图结构。
• 函数表征与因果排序表征为非参数分量在PLSEMs中如何限制潜在因果模型集合提供了理论洞见。
• 结果表明，在具有高斯噪声的加法SEM中，非线性函数显著缩小了潜在因果模型的集合，从而在可识别性上超越了线性情形。