[论文解读] A Critical View of the Structural Causal Model

Tomer Galanti, Ofir Nabati+1 more|arXiv (Cornell University)|Feb 23, 2020

Bayesian Modeling and Causal Inference参考文献 26被引用 4

一句话总结

本文提出一种基于复杂度的因果推断方法，表明在单变量设置下，通过比较对分位数排序数据应用自编码器的重建误差，可识别因果关系，重建误差越低则越可能是原因。在多变量情况下，提出一种新颖的对抗性自编码器框架，隐式解耦因果成分与噪声成分，在合成数据集和真实世界数据集（包括MEG数据）上优于当前最先进方法。

ABSTRACT

In the univariate case, we show that by comparing the individual complexities of univariate cause and effect, one can identify the cause and the effect, without considering their interaction at all. In our framework, complexities are captured by the reconstruction error of an autoencoder that operates on the quantiles of the distribution. Comparing the reconstruction errors of the two autoencoders, one for each variable, is shown to perform surprisingly well on the accepted causality directionality benchmarks. Hence, the decision as to which of the two is the cause and which is the effect may not be based on causality but on complexity. In the multivariate case, where one can ensure that the complexities of the cause and effect are balanced, we propose a new adversarial training method that mimics the disentangled structure of the causal model. We prove that in the multidimensional case, such modeling is likely to fit the data only in the direction of causality. Furthermore, a uniqueness result shows that the learned model is able to identify the underlying causal and residual (noise) components. Our multidimensional method outperforms the literature methods on both synthetic and real world datasets.

研究动机与目标

• 探究是否可通过个体复杂度度量而非交互作用来推断单变量结构因果模型（SCM）中的因果性。
• 解决单变量SCM中因果与结果之间复杂度失衡的问题，其中结果通常比原因复杂度更低。
• 开发一种显式建模SCM结构（包括解耦的因果与噪声成分）的多变量因果推断方法。
• 评估因果与残差（噪声）成分之间的独立性是否在训练过程中自然出现，从而减少对显式对抗约束的依赖。
• 在合成基准和真实世界神经影像数据（MOUS-MEG）上展示优越性能，验证该方法的鲁棒性与泛化能力。

提出的方法

• 该方法将单变量变量的分位数排序样本作为自编码器的输入，通过重建误差作为微熵的代理来度量复杂度。
• 在多变量因果发现中，训练三个神经网络：用于原因的编码器、用于结果的解码器，以及一个判别器，以强制实现原因与结果残差表示之间的独立性。
• 残差表示 R(Y) 通过对抗方式训练，使其与 X 独立，采用类似 GAN 的损失函数，尽管论文表明即使无显式训练，独立性也能自然出现。
• 在单变量情况下，通过比较自编码器应用于原因与结果时的重建误差来确定因果方向。
• 在多变量情况下，模型被训练为从 f(X) 和 R(Y) 重建 Y，其中 f(X) 与 R(Y) 通过对抗损失被约束为相互独立。
• 该框架在具有已知因果结构的合成数据集和真实世界 MEG 数据上进行了验证，其中原因被定义为刺激前状态，结果为刺激后反应。

实验结果

研究问题

• RQ1 在单变量结构因果模型中，是否仅通过比较两个变量的个体复杂度即可识别因果方向，而无需建模其交互作用？
• RQ2 在单变量 SCM 中，结果是否本质上比原因复杂度更低，且这种复杂度失衡能否被用于因果推断？
• RQ3 在多变量情况下，能否设计一种神经网络架构，以隐式方式学习 SCM 的因果与噪声成分而无需显式监督？
• RQ4 在训练过程中，原因 X 与残差表示 R(Y) 之间的独立性是否能自然出现，从而减少对显式对抗约束的需求？
• RQ5 基于复杂度的方法是否能在合成与真实世界因果推断基准上均优于现有最先进方法？

主要发现

• 在单变量情况下，对分位数排序数据应用自编码器的重建误差能成功识别因果方向，优于基于熵的方法。
• 该方法在标准因果推断基准上表现具有竞争力，表明复杂度失衡是单变量设置下因果性的强有力指标。
• 在多变量情况下，所提出的对抗性自编码器框架在合成数据集和真实世界数据集（包括 MOUS-MEG 数据集）上优于现有方法。
• 当因果方向被正确定义为（Rest+Word → Active）时，该方法在 MEG 数据集上实现了高 AUC 分数，而其他方法因维度失衡而失败。
• 在许多情况下，即使未进行显式对抗训练，原因 X 与残差表示 R(Y) 之间的独立性也能自然出现，表现为 |c_real + c_fake - 1| 值较低。
• 重建误差仍是性能的关键驱动因素，因为该方法的成功主要源于复杂度差异，而非仅依赖对抗约束。