[论文解读] A direct method for estimating a causal ordering in a linear non-Gaussian acyclic model

Shohei Shimizu, Aapo Hyvärinen+1 more|arXiv (Cornell University)|Aug 9, 2014

Bayesian Modeling and Causal Inference参考文献 20被引用 22

一句话总结

本文提出了一种直接的、非迭代的方法，利用高阶累积量和非高斯性来估计线性非高斯无环模型（LiNGAM）中的因果顺序。与迭代方法不同，该方法在模型假设下可保证在固定步数内收敛到正确的因果顺序，为结构方程模型中的因果发现提供了一种更快、更可靠的方法。

ABSTRACT

Structural equation models and Bayesian networks have been widely used to analyze causal relations between continuous variables. In such frameworks, linear acyclic models are typically used to model the datagenerating process of variables. Recently, it was shown that use of non-Gaussianity identifies a causal ordering of variables in a linear acyclic model without using any prior knowledge on the network structure, which is not the case with conventional methods. However, existing estimation methods are based on iterative search algorithms and may not converge to a correct solution in a finite number of steps. In this paper, we propose a new direct method to estimate a causal ordering based on non-Gaussianity. In contrast to the previous methods, our algorithm requires no algorithmic parameters and is guaranteed to converge to the right solution within a small fixed number of steps if the data strictly follows the model.

研究动机与目标

• 解决现有迭代算法在线性非高斯无环模型因果发现中的局限性，这些算法可能无法收敛或需要调参。
• 开发一种无需依赖网络结构先验知识即可估计因果顺序的方法。
• 利用数据中的非高斯性来识别正确的因果顺序，因为非高斯性可确保LiNGAM中的可识别性。
• 提供一种确定性、无参数的算法，可在固定步数内收敛到正确解。
• 提高高维或复杂数据集中因果结构学习的效率与可靠性。

提出的方法

• 该方法利用高阶累积量（特别是三阶累积量）检测数据分布中的不对称性，通过非高斯性推断因果方向。
• 基于累积量最小化构建直接优化准则，以识别正确的因果顺序，无需迭代优化。
• 通过计算候选顺序的累积量得分，在固定且较少的步骤内评估所有可能的顺序。
• 采用基于排序的策略，根据累积量不对称性对变量进行排序，从而得到唯一的因果顺序。
• 通过利用基于非高斯性的闭式准则，直接计算最优顺序，避免迭代搜索。
• 该方法在数据严格服从带加法误差的线性非高斯无环模型的假设下具有鲁棒性。

实验结果

研究问题

• RQ1 能否通过直接的、非迭代方法比现有迭代方法更可靠地估计线性非高斯无环模型中的因果顺序？
• RQ2 利用高阶累积量是否能实现准确的因果排序，而无需算法参数或收敛性检查？
• RQ3 在LiNGAM模型假设下，能否保证在有限步内收敛到正确的因果顺序？
• RQ4 与Fast Causal Discovery（FCI）或Greedy Equivalence Search（GES）等迭代方法相比，所提方法在性能和稳定性方面表现如何？
• RQ5 能否在确定性、闭式算法中有效利用非高斯性进行因果发现？

主要发现

• 若数据严格遵循线性非高斯无环模型，所提方法可在固定且较少的步数内保证收敛到正确的因果顺序。
• 该方法无需任何算法参数，消除了调参和收敛性监控的需求。
• 通过使用三阶累积量，该方法有效捕捉了由非高斯性引起的不对称性，从而实现正确的因果排序。
• 在计算效率和可靠性方面，该算法优于迭代方法，尤其在高维场景下表现更优。
• 在理想模型条件下，该方法可实现对真实因果顺序的精确恢复，且不会陷入局部最优。
• 实验结果表明，该方法在各种非高斯分布下均表现出鲁棒性和稳定性，验证了其理论保证。