[论文解读] Heterogeneity Adjustment with Applications to Graphical Model Inference

Jianqing Fan, Han Liu+2 more|arXiv (Cornell University)|Feb 17, 2016

Statistical Methods and Inference参考文献 38被引用 5

一句话总结

本文提出ALPHA，一种用于多源数据异质性校正的通用框架，通过低秩主成分分析建模并消除批次效应。利用‘维度的祝福’并允许使用信息性协变量，ALPHA 实现了同质残差的一致估计，在脑成像和基因组学等高维场景下显著提升了图模型推断性能。

ABSTRACT

Heterogeneity is an unwanted variation when analyzing aggregated datasets from multiple sources. Though different methods have been proposed for heterogeneity adjustment, no systematic theory exists to justify these methods. In this work, we propose a generic framework named ALPHA (short for Adaptive Low-rank Principal Heterogeneity Adjustment) to model, estimate, and adjust heterogeneity from the original data. Once the heterogeneity is adjusted, we are able to remove the biases of batch effects and to enhance the inferential power by aggregating the homogeneous residuals from multiple sources. Under a pervasive assumption that the latent heterogeneity factors simultaneously affect a large fraction of observed variables, we provide a rigorous theory to justify the proposed framework. Our framework also allows the incorporation of informative covariates and appeals to the "Bless of Dimensionality". As an illustrative application of this generic framework, we consider a problem of estimating high-dimensional precision matrix for graphical model inference based on multiple datasets. We also provide thorough numerical studies on both synthetic datasets and a brain imaging dataset to demonstrate the efficacy of the developed theory and methods.

研究动机与目标

• 解决现有批次效应校正方法在高维数据分析中缺乏系统性理论依据的问题。
• 开发一种通用的、理论基础坚实的框架，用于建模和调整多个数据源之间的异质性。
• 通过消除混杂的批次效应同时保留真实的生物或统计信号，实现图模型更可靠的推断。
• 将信息性协变量整合到异质性校正过程中，当存在外部数据时提升估计精度。
• 在普遍因子模型假设下，建立残差估计和精度矩阵恢复的理论一致性。

提出的方法

• 构建一个半参数因子模型，将异质性建模为每个数据批次协方差结构中的低秩分量。
• 应用主成分分析（PCA）或投影PCA来估计低秩异质性因子，尤其在普遍假设下表现优异。
• 利用估计的异质性分量对原始数据进行校正，得到无批次效应的同质残差。
• 通过外部协变量的Sieve近似方法提升估计精度，尤其在协变量具有信息性且样本量有限时。
• 对校正后的残差应用CLIME程序进行高维精度矩阵估计，实现图模型推断。
• 在最大范数下，为残差矩阵估计误差和总体协方差矩阵提供了理论保证。

实验结果

研究问题

• RQ1 能否在高维场景下，开发一种通用且具有理论依据的框架，用于调整多个数据源之间的异质性？
• RQ2 普遍假设（即大多数变量受潜在因子影响）如何实现异质性分量的一致估计？
• RQ3 在每批样本量较小的情况下，信息性协变量在多大程度上能提升异质性估计的准确性？
• RQ4 ALPHA 框架在消除批次效应后，如何提升图模型推断的可靠性和一致性？
• RQ5 异质性校正后，残差矩阵和精度矩阵估计器具有哪些理论性质？

主要发现

• ALPHA 在最大范数下实现了残差矩阵和总体协方差矩阵的一致估计，并具备估计误差的理论保证。
• 在模拟数据中，与未校正情况相比，方法2和方法1分别将网络间非共享边减少至8.0%和8.6%（未校正为11.6%），表明一致性显著提升。
• 在脑成像数据集中，校正后的网络表现出统计上显著的平均相关性降低（0.001，p值 < 2.2e-16），与已知的注意力缺陷多动障碍（ADHD）中功能连接性减弱一致。
• 枕叶（橙色）以及左额叶（绿色）和顶叶（粉色）在健康个体与ADHD患者之间的依赖结构变化最为显著。
• 该方法通过减少由批次效应引起的虚假边，优于简单聚合方法，卡方检验的p值表明特定脑区中非共享边的分布并非随机。
• 当存在外部信息时，结合协变量的投影PCA可提升估计精度，而传统PCA在每批样本量充足时仍具有效性。