[论文解读] Shared Subspace Models for Multi-Group Covariance Estimation

Alexander Franks, Peter D. Hoff|arXiv (Cornell University)|Jul 11, 2016

Gene expression and cancer classification参考文献 53被引用 10

一句话总结

该论文提出了一种共享子空间模型，用于在高维、小样本设置下进行多组协方差估计，通过假设每组均服从稀疏协方差模型，并在主特征空间上共享组间信息。利用在Stiefel流形和Grassmann流形上的经验贝叶斯方法与MCMC算法，该方法识别出一个解释组间变异的低维子空间，在白血病基因表达数据中实现了超过90%的变异解释率，共享子空间维度为45。

ABSTRACT

We develop a model-based method for evaluating heterogeneity among several p x p covariance matrices in the large p, small n setting. This is done by assuming a spiked covariance model for each group and sharing information about the space spanned by the group-level eigenvectors. We use an empirical Bayes method to identify a low-dimensional subspace which explains variation across all groups and use an MCMC algorithm to estimate the posterior uncertainty of eigenvectors and eigenvalues on this subspace. The implementation and utility of our model is illustrated with analyses of high-dimensional multivariate gene expression.

研究动机与目标

• 解决当特征数 $p$ 相对于样本量 $n$ 较大时，估计多组异质协方差矩阵的挑战。
• 将各组特定的协方差矩阵建模为具有共享低维特征空间的稀疏协方差结构。
• 通过共享子空间在组间借用信息，提升估计精度并量化不确定性。
• 开发一种在高维设置下对特征向量和特征值进行后验推断的计算可行方法。

提出的方法

• 假设每组的协方差矩阵遵循稀疏协方差模型，包含低维信号子空间与噪声分量。
• 通过在Stiefel流形上对主特征空间施加层次化先验，实现组间主特征空间的可交换性建模，从而共享信息。
• 使用经验贝叶斯方法从数据中估计共享子空间维度和特征值。
• 采用MCMC算法在Grassmann流形和Stiefel流形上对特征向量和特征值的后验分布进行抽样。
• 实施智能初始化以提升MCMC的收敛速度与稳定性。
• 将该模型应用于高维基因表达数据，将各组特定数据投影到共享子空间以实现推断与可视化。

实验结果

研究问题

• RQ1 共享的低维子空间是否能有效捕捉高维协方差矩阵中的组间变异？
• RQ2 在多组、高维设置下，如何量化估计的特征向量与特征值的不确定性？
• RQ3 与各组独立估计相比，通过组间信息共享在多大程度上提升了协方差估计的准确性？
• RQ4 该模型能否利用基因表达数据检测出白血病不同生物亚型间协方差结构的细微差异？
• RQ5 推断出的共享子空间在多大程度上能解释各组特定协方差矩阵中的总变异？

主要发现

• 45维共享子空间在七个白血病亚型中均解释了超过90%的总变异，表明各组间存在显著的低维结构特征。
• 该模型成功识别出四种B系白血病（BCR-ABL、E2A-PBX1、高二倍体、TEL-AML1）共享一个二维子空间，提示其具有生物学相似性。
• 基因集富集分析显示，共享子空间具有显著的生物学意义，其中40个排名靠前的GO术语中有35个与免疫应答、细胞黏附及信号转导通路相关。
• MCMC算法在 $p=10,000$ 且 $s=50$ 的情况下也能在数分钟内实现收敛，证明了其计算可行性。
• 经验贝叶斯方法提供了共享子空间维度与特征值的稳定估计，在模拟数据与真实数据中均优于其他替代方法。
• 投影数据的层次聚类揭示了具有生物学意义的分组结果，其中T-ALL与MLL形成独立聚类，与已知的谱系分类一致。