[论文解读] Latent Hierarchical Causal Structure Discovery with Rank Constraints

Biwei Huang, Charles Jia Han Low+3 more|arXiv (Cornell University)|Oct 1, 2022

Bayesian Modeling and Causal Inference被引用 12

一句话总结

本文提出了一种新颖算法，用于发现变量之间存在多条路径的潜在分层因果结构，通过利用秩亏缺陷约束来识别潜在变量、其基数以及因果关系，仅基于观测到的叶节点变量。在温和的结构条件下，该方法渐近地恢复正确的马尔可夫等价类，优于以往需要测量子节点或树状结构假设的方法。

ABSTRACT

Most causal discovery procedures assume that there are no latent confounders in the system, which is often violated in real-world problems. In this paper, we consider a challenging scenario for causal structure identification, where some variables are latent and they form a hierarchical graph structure to generate the measured variables; the children of latent variables may still be latent and only leaf nodes are measured, and moreover, there can be multiple paths between every pair of variables (i.e., it is beyond tree structure). We propose an estimation procedure that can efficiently locate latent variables, determine their cardinalities, and identify the latent hierarchical structure, by leveraging rank deficiency constraints over the measured variables. We show that the proposed algorithm can find the correct Markov equivalence class of the whole graph asymptotically under proper restrictions on the graph structure.

研究动机与目标

• 解决在存在潜在分层结构且变量间存在多条路径的系统中，因果结构发现的挑战，超越树状结构假设。
• 仅基于观测到的叶节点变量，识别潜在变量、确定其基数，并重构完整的因果图。
• 在温和的结构条件下，开发一种具有理论保证的高效算法，以识别完整图的马尔可夫等价类。
• 放宽以往假设，即每个潜在变量必须具有可观测的子节点或树状结构层次。

提出的方法

• 该方法利用观测变量协方差矩阵中的秩亏缺陷约束，检测潜在混淆因子及其结构关系。
• 提出一种递归聚类过程，称为 findCausalClusters，以识别潜在原子覆盖集——即具有共同子节点的最小潜在变量集合。
• 通过执行移除并重新聚类的迭代优化步骤，解决重叠的潜在结构，恢复更高级别的潜在变量。
• 利用一个条件：若存在 k+1 个纯子节点和 k+1 个邻居，则可识别大小为 k 的潜在变量，从而确保结构可识别性。
• 该方法采用两阶段策略：首先识别潜在聚类，然后通过优化边来输出完整图的马尔可夫等价类。
• 理论分析表明，在温和条件下，该算法渐近地恢复了潜在分层结构的正确马尔可夫等价类。

实验结果

研究问题

• RQ1 当仅观测到叶节点时，即使变量之间存在多条路径，我们能否识别潜在变量及其基数？
• RQ2 我们如何仅基于秩约束，重构潜在变量之间的因果关系以及潜在变量与观测变量之间的因果关系？
• RQ3 何种最小结构条件可确保基于秩的方法下潜在分层结构的可识别性？
• RQ4 我们能否在不强制要求每个潜在变量均具有可观测子节点的前提下，实现对完整图马尔可夫等价类的渐近一致性恢复？

主要发现

• 在温和的结构条件下，所提出的算法可渐近地恢复完整潜在分层因果图的正确马尔可夫等价类。
• 该方法仅基于观测到的叶节点变量，即可识别潜在变量及其基数，即使潜在变量具有其他潜在子节点。
• 该算法仅需 k+1 个纯子节点和 k+1 个邻居即可识别大小为 k 的潜在变量，其条件比以往方法更为宽松。
• 该方法优于现有方法，后者要求每个潜在变量至少具有 2k 或 3k 个可观测子节点，因此可适用于更广泛的真实世界场景。
• 在合成数据上的实证验证证实了该算法恢复具有多条路径的复杂分层结构的能力。