[论文解读] Structure Learning for Cyclic Linear Causal Models

Carlos Améndola, Philipp Dettling+3 more|arXiv (Cornell University)|Jun 10, 2020

Bayesian Modeling and Causal Inference参考文献 30被引用 4

一句话总结

本文提出了一种基于评分的结构学习方法，用于具有反馈回路和隐性混淆因子的线性高斯因果模型，采用简单混合图（节点间无多重边）。尽管存在循环依赖，作者证明这些模型具有期望维度，从而支持有效的模型选择评分；进一步将分布等价性准则从无弓形无环图推广至循环图，验证了在真实蛋白质表达数据上的贪心搜索方法，结果与已知的生物发现一致。

ABSTRACT

We consider the problem of structure learning for linear causal models based on observational data. We treat models given by possibly cyclic mixed graphs, which allow for feedback loops and effects of latent confounders. Generalizing related work on bow-free acyclic graphs, we assume that the underlying graph is simple. This entails that any two observed variables can be related through at most one direct causal effect and that (confounding-induced) correlation between error terms in structural equations occurs only in absence of direct causal effects. We show that, despite new subtleties in the cyclic case, the considered simple cyclic models are of expected dimension and that a previously considered criterion for distributional equivalence of bow-free acyclic graphs has an analogue in the cyclic case. Our result on model dimension justifies in particular score-based methods for structure learning of linear Gaussian mixed graph models, which we implement via greedy search.

研究动机与目标

• 解决具有反馈回路和隐性混淆因子的线性高斯因果模型中的结构学习挑战。
• 建立此类模型具有期望维度的条件，从而支持有效的基于评分的学习方法。
• 将无弓形无环图中的分布等价性准则推广至循环简单混合图。
• 开发并评估一种用于循环线性高斯模型结构学习的贪心搜索算法。
• 在真实生物数据上验证该方法，证明其与已知调控通路的一致性。

提出的方法

• 模型通过包含有向边（因果效应）和双向边（隐性混淆因子引起的误差相关性）的简单混合图表示。
• 结构方程系统定义为 $ X = \Lambda^T X + \varepsilon $，其中 $ \varepsilon \sim \mathcal{N}(0, \Omega) $，且 $ \operatorname{Var}[X] = (I - \Lambda)^{-T} \Omega (I - \Lambda)^{-1} $。
• 使用贪心搜索算法，基于从数据中估计的相关矩阵最大化一种偏差校正的BIC类评分。
• 该方法以肯德尔等级相关矩阵作为输入，投影至 $ \frac{p(p-1)}{2} $-维空间以降低维度。
• 通过从随机初始图开始并逐步增加BIC中的惩罚项，重复搜索以避免过拟合。
• 使用先前仅适用于无弓形无环图的准则的广义版本来评估分布等价性。

实验结果

研究问题

• RQ1 具有循环结构的线性高斯混合图模型是否仍能在非可识别性问题存在的情况下保持期望维度？
• RQ2 是否存在一种可计算的准则，用于判断循环简单混合图中的分布等价性，类似于无环无弓形图中的准则？
• RQ3 基于评分的结构学习能否有效应用于具有隐性混淆因子的循环线性高斯模型？
• RQ4 贪心搜索方法在真实数据中恢复已知生物调控关系的能力如何？
• RQ5 在真实世界数据集中，循环结构的存在对学习到的模型结构有何影响？

主要发现

• 简单循环混合图可诱导出具有期望维度的模型，从而验证了基于评分方法在结构学习中的有效性。
• 此前仅适用于无弓形无环图的分布等价性准则，可自然推广至循环情形。
• 基于偏差校正的肯德尔等级相关矩阵的贪心搜索方法，在14个蛋白质表达数据集中成功恢复了已知的生物通路。
• 所估计的图包含10至13条边，其中14个图中有4个包含循环（3个为3-环，1个为4-环）。
• 该方法在所有数据集中一致地恢复了14个已知调控关系中的12个（例如：PLCG-PIP2-PIP3、PKC-P38-PJNK、P44/42-PKA-PAKTS473）。
• 在多个数据集中检测到3个新连接（PIP2→PKC、PLCG→PKC、PIP3→PAKTS473），此前未在文献中报道。