[论文解读] PC algorithm for Gaussian copula graphical models

Naftali Harris, Mathias Drton|arXiv (Cornell University)|Jul 1, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用 4

一句话总结

该论文通过用等级相关系数（Spearman's rho）替代皮尔逊相关系数，建立了高斯拷贝图模型下PC算法的一致性。结果表明，Rank PC算法在正态分布下性能与Pearson PC相当，在非正态分布下显著优于Pearson PC，且计算开销可忽略不计。

ABSTRACT

The PC algorithm uses conditional independence tests for model selection in graphical modeling with acyclic directed graphs. In Gaussian models, tests of conditional independence are typically based on Pearson correlations, and high-dimensional consistency results have been obtained for the PC algorithm in this setting. We prove that high-dimensional consistency carries over to the broader class of Gaussian copula or extit{nonparanormal} models when using rank-based measures of correlation. For graphs with bounded degree, our result is as strong as prior Gaussian results. In simulations, the `Rank PC' algorithm works as well as the `Pearson PC' algorithm for normal data and considerably better for non-normal Gaussian copula data, all the while incurring a negligible increase of computation time. Simulations with contaminated data show that rank correlations can also perform better than other robust estimates considered in previous work when the underlying distribution does not belong to the nonparanormal family.

研究动机与目标

• 将PC算法的高维一致性研究从高斯模型扩展至更广泛的高斯拷贝（非正态）模型类别。
• 探究基于等级的相关度量是否能在高维设定下保持PC算法的一致性特性。
• 在正态与非正态数据分布下，评估Rank PC算法相对于标准Pearson PC算法的实证性能。
• 评估在存在污染或偏离非正态族的情况下，等级相关系数的稳健性。
• 为在有界度数假设下使用等级相关系数进行图模型选择提供理论依据。

提出的方法

• 通过在条件独立性检验中用基于等级的偏相关系数（Spearman's rho）替代皮尔逊偏相关系数，对PC算法进行改进。
• 在假设检验中引入样本量调整：当条件集为S时，有效样本量减少|S| + 3，以校正自由度。
• 采用基于等级偏相关系数Fisher z变换的临界值函数γ(n, |S|, z)，其中z取标准正态分布的分位数。
• 对等级相关系数估计采用统一的误差阈值ε，该阈值由精度矩阵的最小特征值和稀疏性约束推导得出。
• 使用分位数序列zn = √(n−3) · log[(1 + cn/3)/(1 − cn/3)]，以确保在维度和样本量同时增长时的一致性。
• 通过两个关键界限证明一致性：(1) 估计误差|ρ̂uv|S − ρuv|S| < cn/3以高概率成立；(2) 临界值γ(n, |S|, zn)位于[ cn/3, 2cn/3 ]区间内，从而保证渐近意义上测试决策的正确性。

实验结果

研究问题

• RQ1 在高斯拷贝模型中，当使用基于等级的相关系数替代皮尔逊相关系数时，PC算法是否仍保持一致性？
• RQ2 在多元正态数据下，Rank PC算法与标准Pearson PC算法的性能相比如何？
• RQ3 在非正态、非正态族的数据分布下，Rank PC的实证性能如何？
• RQ4 当真实分布偏离非正态族时，等级相关系数能否提升图模型选择的稳健性？
• RQ5 在何种条件下，Rank PC算法能保持高维一致性，特别是对于有界度数图？

主要发现

• 在图的度数有界时，Rank PC算法在高斯拷贝模型下可实现与原始PC算法在高斯模型下相同的高维一致性。
• 在正态数据中，Rank PC算法在模型选择准确率方面与Pearson PC算法表现相当。
• 在非正态高斯拷贝数据中，Rank PC算法在边恢复准确率方面显著优于Pearson PC算法。
• Rank PC的计算成本与Pearson PC几乎相同，仅因等级转换和自由度调整带来可忽略的额外开销。
• 在存在污染或偏离非正态族的情况下，等级相关系数优于以往研究中考虑的其他稳健估计器。
• 理论分析表明，若适当选择显著性水平序列zn，则Rank PC中使用的条件独立性检验在渐近意义上是正确的，其正确概率趋于1。