[论文解读] Gaussian DAGs on network data.

Hangjian Li, Qing Zhou|arXiv (Cornell University)|May 26, 2019

Statistical Methods and Inference参考文献 17被引用 1

一句话总结

该论文提出了一种新颖的高斯DAG模型，用于网络结构数据，通过惩罚似然方法联合估计DAG结构和行相关矩阵。通过迭代应用解耦Lasso回归和图模型Lasso，该方法利用个体间依赖关系，显著提升了去相关网络数据上的DAG结构学习性能，优于标准DAG方法。

ABSTRACT

The traditional directed acyclic graph (DAG) model assumes data are generated independently from the underlying joint distribution defined by the DAG. In many applications, however, individuals are linked via a network and thus the independence assumption does not hold. We propose a novel Gaussian DAG model for network data, where the dependence among individual data points (row covariance) is modeled by an undirected graph. Under this model, we develop a maximum penalized likelihood method to estimate the DAG structure and the row correlation matrix. The algorithm iterates between a decoupled lasso regression step and a graphical lasso step. We show with extensive simulated and real network data, that our algorithm improves the accuracy of DAG structure learning by leveraging the information from the estimated row correlations. Moreover, we demonstrate that the performance of existing DAG learning methods can be substantially improved via de-correlation of network data with the estimated row correlation matrix from our algorithm.

研究动机与目标

• 解决传统DAG模型在从通过网络连接的个体收集数据时违反独立性假设的问题。
• 为高斯网络数据中的DAG结构和行相关矩阵开发联合估计框架。
• 通过整合来自网络结构的行方向依赖信息，提升DAG结构学习的准确性。
• 证明通过使用估计的行相关矩阵进行去相关预处理，可增强现有DAG学习方法的性能。

提出的方法

• 该方法采用最大惩罚似然法，同时估计DAG结构和行相关矩阵。
• 通过迭代交替执行解耦Lasso回归步骤以估计DAG结构，以及图模型Lasso步骤以估计行相关矩阵。
• 解耦Lasso步骤在考虑行方向相关性的同时，对DAG施加稀疏性约束。
• 图模型Lasso步骤在稀疏性约束下估计行协方差矩阵的逆矩阵。
• 该算法通过利用网络的无向图结构来建模行依赖，联合优化DAG与相关结构。
• 该框架设计为可扩展且适用于模拟和现实世界网络数据。

实验结果

研究问题

• RQ1 联合建模DAG结构与行相关性是否能提升网络结构数据中的DAG学习准确性？
• RQ2 通过无向图建模行依赖，对真实DAG结构的恢复有何影响？
• RQ3 通过使用估计的行相关矩阵进行预处理，现有DAG学习方法的性能可提升到何种程度？
• RQ4 当数据因网络结构而存在依赖时，所提出方法是否优于标准DAG学习方法？

主要发现

• 通过整合来自网络结构的行相关性信息，所提出方法显著提升了DAG结构学习的准确性。
• 迭代的解耦Lasso与图模型Lasso算法收敛至稳定解，有效捕捉了DAG与相关结构。
• 使用估计的行相关矩阵对网络数据进行去相关处理，显著提升了现有DAG学习方法的性能。
• 模拟与真实数据均显示结构恢复性能一致提升，尤其在高行相关性条件下表现更优。
• 该方法在多种网络拓扑与数据维度下表现出稳健性。
• 联合估计框架为建模网络数据中的依赖关系提供了合理方法，同时保持了DAG结构的稀疏性。