[论文解读] High Dimensional Semiparametric Gaussian Copula Graphical Models

Han Liu, Fang Han+3 more|arXiv (Cornell University)|Feb 10, 2012

Statistical Methods and Inference被引用 3

一句话总结

本文提出了非参数正态怀疑者（nonparanormal skeptic），一种鲁棒的高维图模型估计器，该方法使用基于秩次的相关性度量（斯皮尔曼等级相关系数和肯德尔等级相关系数）代替参数化的正态得分来估计精度矩阵。即使在非高斯或含污染的数据下，该方法在图恢复和参数估计方面均能达到最优的参数收敛速率，是高斯图模型及以往非参数正态方法的统计效率更高且更鲁棒的替代方案。

ABSTRACT

In this paper, we propose a semiparametric approach, named nonparanormal skeptic, for efficiently and robustly estimating high dimensional undirected graphical models. To achieve modeling flexibility, we consider Gaussian Copula graphical models (or the nonparanormal) as proposed by Liu et al. (2009). To achieve estimation robustness, we exploit nonparametric rank-based correlation coefficient estimators, including Spearman's rho and Kendall's tau. In high dimensional settings, we prove that the nonparanormal skeptic achieves the optimal parametric rate of convergence in both graph and parameter estimation. This celebrating result suggests that the Gaussian copula graphical models can be used as a safe replacement of the popular Gaussian graphical models, even when the data are truly Gaussian. Besides theoretical analysis, we also conduct thorough numerical simulations to compare different estimators for their graph recovery performance under both ideal and noisy settings. The proposed methods are then applied on a large-scale genomic dataset to illustrate their empirical usefulness. The R language software package huge implementing the proposed methods is available on the Comprehensive R Archive Network: http://cran. r-project.org/.

研究动机与目标

• 开发一种在数据偏离正态分布或含异常值时，用于高维无向图模型估计的鲁棒且高效的方法。
• 在高维设定下，实现精度矩阵估计与图恢复的最优参数收敛速率。
• 消除对边缘变换函数估计的需求，相比先前的非参数正态方法，降低调参复杂度。
• 即使在数据确实为正态分布时，也提供一种安全且统计高效的高斯图模型替代方案。
• 证明在数据污染条件下，基于秩次的估计器（斯皮尔曼等级相关系数、肯德尔等级相关系数）优于基于正态得分的方法。

提出的方法

• 提出非参数正态怀疑者，一种半参数方法，通过使用非参数的基于秩次的相关性估计器，绕过边缘变换函数的显式估计。
• 使用斯皮尔曼等级相关系数和肯德尔等级相关系数作为潜在相关矩阵的鲁棒估计器，避免对变换函数的参数假设。
• 将基于秩次的相关性估计结果代入现有的参数化图模型方法（如图图lasso、CLIME或图Dantzig选择器），以完成最终的精度矩阵与图结构估计。
• 采用U-统计量表示肯德尔等级相关系数，并应用霍夫丁不等式推导基于秩次的相关性估计器的集中性界。
• 理论分析利用CLIME和图Dantzig选择器的现有结果，在非参数正态模型下建立极小极大最优性。
• 还提供了边缘变换到正态性的相合估计作为次要组成部分，尽管并非怀疑者核心流程所必需。

实验结果

研究问题

• RQ1 基于秩次的相关性估计器（如斯皮尔曼等级相关系数和肯德尔等级相关系数）是否能在高维非参数正态图模型中实现最优的参数收敛速率？
• RQ2 在数据污染或非高斯性条件下，非参数正态怀疑者是否优于原始基于正态得分的非参数正态估计器？
• RQ3 基于秩次的估计器的鲁棒性是否足以在数据确实为正态分布时仍保持最优的统计效率？
• RQ4 非参数正态怀疑者与现有参数化估计器（如CLIME和图lasso）之间的理论关系是什么？
• RQ5 与先前的非参数正态方法相比，非参数正态怀疑者的调参数量和计算复杂度如何？

主要发现

• 非参数正态怀疑者在精度矩阵估计与图恢复方面均实现了最优的参数收敛速率 O(√(log d / n))，与非参数正态模型下可能达到的最佳速率一致。
• 在低污染条件下，基于正态得分的估计器略为高效；但在高污染条件下，非参数正态怀疑者显著优于其，展现出更优的鲁棒性。
• 该方法在无需估计边缘变换函数的情况下实现最优速率，相比Liu et al. (2009) 降低了调参复杂度。
• 理论分析证实，尽管非参数正态族大于高斯族，非参数正态怀疑者仍保持极小极大最优性。
• 数值模拟表明，非参数正态怀疑者在理想与噪声数据条件下均能保持高图恢复精度。
• 该方法在大规模基因组数据集上得到实证验证，展示了其在构建生物调控网络方面的实际应用价值。