[论文解读] Telling cause from effect based on high-dimensional observations

Dominik Janzing, Patrik O. Hoyer+1 more|ArXiv.org|Sep 24, 2009

Bayesian Modeling and Causal Inference参考文献 12被引用 39

一句话总结

该论文提出了一种方法，通过利用原因和结果机制独立采样所引起的协方差结构中的非对称性，推断高维变量之间的因果方向。通过分析在原因的协方差矩阵经正交变换后，结果的协方差矩阵的典型性，该方法能够以高精度识别出真实的因果方向，即使在维度足够高的线性、高斯或确定性设定下也有效。

ABSTRACT

We describe a method for inferring linear causal relations among multi-dimensional variables. The idea is to use an asymmetry between the distributions of cause and effect that occurs if both the covariance matrix of the cause and the structure matrix mapping cause to the effect are independently chosen. The method works for both stochastic and deterministic causal relations, provided that the dimensionality is sufficiently high (in some experiments, 5 was enough). It is applicable to Gaussian as well as non-Gaussian data.

研究动机与目标

• 解决现有因果发现方法在区分马尔可夫等价因果图方面的根本局限性。
• 克服标准方法在确定性或高斯线性设定下失效的问题，此时条件独立性假设不成立。
• 开发一种无需依赖非高斯性或加性噪声的因果推断方法，而是基于高维协方差结构。
• 提供一种基于对称性的因果方向判别准则，避免对条件概率的显式先验假设。
• 在模拟数据和真实世界高维数据（包括图像处理任务）上验证该方法。

提出的方法

• 该方法检验结果变量的观测协方差矩阵在原因协方差矩阵的正交变换下是否具有典型性。
• 基于变换后协方差矩阵的迹定义一个检验统计量 Δ，用于衡量在正交变换群作用下与典型性的偏离程度。
• 若结果的协方差矩阵与经变换的原因协方差矩阵的轨道相比不典型，则拒绝因果假设 X→Y。
• 该方法利用了原因协方差与因果机制矩阵独立采样时，在反向方向上产生非典型关系的特性。
• 利用高维大数定律表明，正向方向（原因 → 结果）满足典型性，而反向方向则不满足。
• 该方法适用于随机和确定性线性关系，并在维度足够高时适用于高斯和非高斯数据。

实验结果

研究问题

• RQ1 在高维线性系统中，即使数据为高斯分布或确定性关系，是否能可靠地推断因果方向？
• RQ2 在高维设定下，是否存在一种协方差结构的统计非对称性，可用来区分原因与结果？
• RQ3 能否将原因经正交变换后，结果协方差矩阵的典型性作为因果方向判断的准则？
• RQ4 当依赖性或非高斯性假设不成立时，该方法是否优于现有方法？
• RQ5 该方法能否应用于具有已知因果结构的真实世界高维数据（如图像）？

主要发现

• 在使用合成滤波和模糊处理的数字图像数据中，该方法在100次测试中有94次正确识别出原始图像。
• 在高维设定下，正向方向（原因 → 结果）在正交变换下表现出典型协方差结构，而反向方向则表现出非典型、不平衡的关系。
• 即使在确定性线性关系和高斯设定下，该方法表现良好，而传统方法在此类情况下会失效。
• 理论分析表明，原因协方差与机制矩阵的独立采样会导致反向因果方向出现非典型关系。
• 实验表明，基于迹的检验统计量 Δ 在反向方向上显著偏倚，表明存在可检测的非对称性。
• 该方法提供了一种基于对称性、无需先验的因果方向判别准则，不依赖于基于密度的先验或非高斯性假设。