[论文解读] Gaussian Graphical Model Estimation with False Discovery Rate Control

Weidong Liu|arXiv (Cornell University)|Jun 5, 2013

Statistical Methods and Inference参考文献 27被引用 5

一句话总结

本文提出了一种高斯图形模型（GGM）估计的多重检验程序，通过引入条件依赖的偏差校正检验统计量，渐近地控制了错误发现率（FDR）。该方法通过直接对检验统计量进行阈值处理，绕过了正则化调参，从而在高维稀疏条件下实现了FDR与错误发现比例（FDP）的控制。

ABSTRACT

This paper studies the estimation of high dimensional Gaussian graphical model (GGM). Typically, the existing methods depend on regularization techniques. As a result, it is necessary to choose the regularized parameter. However, the precise relationship between the regularized parameter and the number of false edges in GGM estimation is unclear. Hence, it is impossible to evaluate their performance rigorously. In this paper, we propose an alternative method by a multiple testing procedure. Based on our new test statistics for conditional dependence, we propose a simultaneous testing procedure for conditional dependence in GGM. Our method can control the false discovery rate (FDR) asymptotically. The numerical performance of the proposed method shows that our method works quite well.

研究动机与目标

• 为解决基于正则化的GGM估计中因调参与错误边数关系不明确而导致的性能评估不充分问题。
• 在 $ p > n $ 的高维设置下，开发一种用于GGM结构学习的多重检验框架，以控制错误发现率（FDR）。
• 构建在样本偏相关系数因高维性而未定义时仍有效且渐近正态的检验统计量。
• 在精度矩阵的稀疏性假设下，建立FDR与错误发现比例（FDP）控制的理论保证。
• 通过直接对检验统计量而非p值进行阈值处理，提供一种计算高效且替代基于正则化方法的方案。

提出的方法

• 提出样本残差协方差的偏差校正版本，作为高维GGM中条件独立性的新检验统计量。
• 在精度矩阵 $ \boldsymbol{\Omega} $ 的稀疏性条件下，推导检验统计量的渐近正态性，从而支持有效的推断。
• 开发一种同时进行的多重检验程序，直接对检验统计量进行阈值处理，避免p值转换，以提升理论控制能力。
• 对所有 $ p(p-1)/2 $ 对应的检验应用显著性水平调整，以渐近地控制错误发现率（FDR）。
• 基于检验统计量的估计零分布，采用数据驱动的阈值规则，以确定图中边的包含与否。
• 利用受限特征值和高概率浓度不等式，确保检验统计量与选择过程的一致性。

实验结果

研究问题

• RQ1 能否构建一种多重检验程序，在 $ p > n $ 的高维设置下，对GGM结构估计实现严格的FDR控制？
• RQ2 当样本偏相关系数因高维性而未定义时，哪些检验统计量是有效且渐近正态的？
• RQ3 如何避免或替代调参与错误边数之间的关系，转而采用更具可解释性的错误率？
• RQ4 能否在不依赖正则化调参参数的前提下，渐近地控制FDR与错误发现比例（FDP）？
• RQ5 所提出的检验统计量在何种理论条件下可实现渐近正态性与选择一致性？

主要发现

• 所提出的方法，即GFC（带FDR控制的GGM估计），在精度矩阵的稀疏性条件下，渐近地控制了错误发现率（FDR）。
• 该方法渐近地控制了错误发现比例（FDP），确保被选中的边中假阳性比例以概率收敛于零。
• 基于偏差校正残差协方差的新检验统计量，在条件独立性的原假设下渐近服从正态分布。
• 该程序通过直接对检验统计量进行阈值处理，避免了正则化调参，消除了需在假阳性与漏检边之间权衡的调参选择。
• 理论分析表明，检验统计量具有一致性，且在稀疏性与特征值条件下，选择过程能以高概率恢复真实图结构。
• 该方法计算高效且可扩展至高维数据，因其避免了基于正则化方法中常见的迭代优化过程。