[论文解读] Calculation of Entailed Rank Constraints in Partially Non-Linear and Cyclic Models

Peter Spirtes|arXiv (Cornell University)|Sep 17, 2013

Bayesian Modeling and Causal Inference参考文献 17被引用 11

一句话总结

本文将 Trek 分离定理扩展至部分非线性和循环结构方程模型，证明了此前仅适用于线性、无环模型的协方差矩阵秩约束，在更广泛条件下依然成立。关键贡献在于为约束基础因果发现算法（如 BuildPureClusters）在具有非线性和循环关系的潜变量模型生成的数据上的应用提供了理论依据，从而扩大了这些算法在更真实因果结构中的适用范围。

ABSTRACT

The Trek Separation Theorem (Sullivant et al. 2010) states necessary and sufficient conditions for a linear directed acyclic graphical model to entail for all possible values of its linear coefficients that the rank of various sub-matrices of the covariance matrix is less than or equal to n, for any given n. In this paper, I extend the Trek Separation Theorem in two ways: I prove that the same necessary and sufficient conditions apply even when the generating model is partially non-linear and contains some cycles. This justifies application of constraint-based causal search algorithms such as the BuildPureClusters algorithm (Silva et al. 2006) for discovering the causal structure of latent variable models to data generated by a wider class of causal models that may contain non-linear and cyclic relations among the latent variables.

研究动机与目标

• 将 Trek 分离定理的适用范围从线性、无环模型推广至包含部分非线性和循环结构的模型。
• 确立在这些扩展模型中，协方差矩阵秩约束的必要且充分条件与线性、无环模型中相同。
• 为在具有潜变量且表现出非线性和循环关系的数据上可靠应用基于约束的因果发现算法（如 BuildPureClusters）提供理论依据。
• 为在更一般的因果模型中应用基于秩的条件独立性检验提供理论基础。

提出的方法

• 通过证明当结构方程部分非线性时，协方差矩阵子矩阵的秩约束依然成立，扩展了 Trek 分离定理。
• 分析具有潜变量和环路的有向混合图（DAG）的结构，以识别决定秩约束的基于路径的 trek 路径。
• 应用 d-分离和 trek 分离的概念，刻画具有环路和非线性关系模型中的条件独立性。
• 运用代数与图论技术，证明协方差矩阵子矩阵的秩受变量对之间 trek 路径数量的限制。
• 证明在部分非线性和循环情况下，与线性、无环模型中相同组合条件（基于 trek 分离）仍能导致秩约束。
• 通过展示理论结果与依赖此类秩约束进行潜变量结构发现的现有算法（如 BuildPureClusters）的一致性，验证了理论结果。

实验结果

研究问题

• RQ1 Trek 分离定理的秩约束能否推广至潜变量之间存在非线性关系的模型？
• RQ2 潜变量模型中的循环结构是否仍像无环模型一样，对协方差矩阵施加相同的秩约束？
• RQ3 当结构方程部分非线性时，秩约束的必要且充分条件是否仍然成立？
• RQ4 基于约束的因果发现算法（如 BuildPureClusters）能否可靠地应用于由非线性和循环潜变量模型生成的数据？
• RQ5 在部分非线性、循环模型中，何种图论条件可确保协方差子矩阵的秩受到限制？

主要发现

• 如 Trek 分离定理所定义的协方差子矩阵秩约束的必要且充分条件，在模型包含非线性和循环关系时依然有效。
• 与线性、无环模型相同，部分非线性和循环模型中的秩约束仍由相同的组合结构（即 trek 分离）决定。
• 理论基础支持在更广泛的模型类别中应用基于秩的条件独立性检验，以实现基于约束的因果发现。
• 研究结果验证了将 BuildPureClusters 等算法应用于包含非线性和循环依赖关系的潜变量模型生成数据的适用性。
• 该扩展在更一般假设下保持了基于约束方法从观测数据中发现因果结构的合理性。