[论文解读] Penalized EM algorithm and copula skeptic graphical models for inferring networks for mixed variables

Fentaw Abegaz, Ernst C. Wit|arXiv (Cornell University)|Jan 21, 2014

Statistical Methods and Inference参考文献 22被引用 3

一句话总结

本文提出了两种新颖的方法——copula EM glasso 和 copula skeptic glasso——用于从高维混合类型数据（连续型、二值型、计数型和有序型变量）中推断稀疏图模型。通过结合 $μat$-penalized 扩展秩似然与EM算法或成对的copula估计，这些方法在非正态分布和混合变量类型下实现了稳健的网络推断，在模拟数据和真实世界基因组数据（包括乳腺癌和玉米遗传学数据集）中表现优异。

ABSTRACT

In this article, we consider the problem of reconstructing networks for continuous, binary, count and discrete ordinal variables by estimating sparse precision matrix in Gaussian copula graphical models. We propose two approaches: $\ell_1$ penalized extended rank likelihood with Monte Carlo Expectation-Maximization algorithm (copula EM glasso) and copula skeptic with pair-wise copula estimation for copula Gaussian graphical models. The proposed approaches help to infer networks arising from nonnormal and mixed variables. We demonstrate the performance of our methods through simulation studies and analysis of breast cancer genomic and clinical data and maize genetics data.

研究动机与目标

• 解决在标准高斯假设不成立时，从高维混合类型数据（连续型、二值型、计数型、有序型）中推断无向图模型的挑战。
• 开发一种计算高效且统计稳健的方法，用于估计高斯copula图模型中的稀疏精度矩阵。
• 实现对非正态性具有鲁棒性的网络推断，且无需对边缘分布进行参数建模。
• 将该方法应用于真实世界生物数据集，包括乳腺癌基因组和临床数据以及玉米遗传学数据，以揭示具有生物学意义的条件依赖关系。
• 通过模拟研究和真实数据分析，将所提方法与现有方法进行比较，重点关注图结构恢复的准确性与计算可扩展性。

提出的方法

• 使用扩展秩似然（ERL）作为边缘似然，其不受干扰边缘分布的影响，从而实现对混合离散型与连续型变量的有效推断。
• 在EM算法框架内，对ERL应用 $μat$-惩罚最大似然估计（copula EM glasso），实现在高维空间中稀疏精度矩阵的估计。
• 采用copula skeptic方法，通过参数化二元copula（不一定是同一族）估计成对等级相关性，相较于非正态copula skeptic方法，提高了估计精度。
• 利用成对copula估计构建相关矩阵，随后通过 $μat$-惩罚实现精度矩阵估计（copula skeptic glasso）。
• 在copula EM glasso方法中，通过EM算法无缝处理缺失数据，同时保持计算效率。
• 通过最小BIC准则选择调参，以在两种方法中平衡模型拟合度与稀疏性。

实验结果

研究问题

• RQ1 在高维混合变量网络中，$μat$-惩罚扩展秩似然结合EM算法（copula EM glasso）是否能有效恢复真实的条件独立结构？
• RQ2 使用参数化二元copula估计成对等级相关性的copula skeptic glasso方法，在图结构恢复准确性方面是否优于现有非正态copula skeptic方法？
• RQ3 在真实世界基因组数据集（如乳腺癌和玉米遗传学数据）中，所提方法在恢复已知生物学相互作用方面表现如何？
• RQ4 在极高维设置下（如数千个变量），copula EM glasso 与 copula skeptic glasso 的相对计算效率与可扩展性如何？
• RQ5 尽管存在多重检验挑战，这些方法是否能检测到玉米中跨染色体的有意义的反式作用遗传相互作用？

主要发现

• 在模拟研究中，copula EM glasso 方法在中等高维设置下，对混合类型变量网络的真实图结构恢复表现优异。
• copula skeptic glasso 方法在计算效率方面表现突出，因此被推荐用于极高维数据（如数千个变量），因其依赖于成对copula估计。
• 在乳腺癌数据中，该方法识别出临床与基因变量之间稀疏的条件依赖网络，揭示了与疾病侵袭性及不良生存结局相关的基因扩增或缺失。
• 在玉米遗传学数据集中，copula skeptic glasso 检测到显著的染色体间相互作用（如染色体1–2、5–8、6–7之间的标记），提示可能存在反式调控相互作用。
• 在玉米数据中，最小BIC准则选择的调参约为0.05，表明在稀疏性与生物学合理性之间达到了良好平衡。
• 结果表明，两种方法对非正态性具有鲁棒性，且无需对边缘分布进行参数建模，即可有效建模混合类型数据中的复杂依赖关系。