[论文解读] D-GCCA: Decomposition-based Generalized Canonical Correlation Analysis for Multi-view High-dimensional Data

Hai Shu, Zhe Qu+1 more|PubMed|Jan 9, 2020

Functional Brain Connectivity Studies参考文献 31被引用 5

一句话总结

本文提出D-GCCA，一种基于分解的广义典型相关分析方法，用于多视角高维数据，通过严格的L2空间公式化，将共同因子与特异因子分离，确保估计一致性，并通过强制正交性提升共享变异的检测能力。该方法实现高效、闭式计算，并可对变量层面的信号方差进行解释，用于特征选择，在模拟和真实数据中均优于现有最先进方法。

ABSTRACT

Modern biomedical studies often collect multi-view data, that is, multiple types of data measured on the same set of objects. A popular model in high-dimensional multi-view data analysis is to decompose each view's data matrix into a low-rank common-source matrix generated by latent factors common across all data views, a low-rank distinctive-source matrix corresponding to each view, and an additive noise matrix. We propose a novel decomposition method for this model, called decomposition-based generalized canonical correlation analysis (D-GCCA). The D-GCCA rigorously defines the decomposition on the <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow><mml:msup><mml:mi>L</mml:mi> <mml:mn>2</mml:mn></mml:msup> </mml:mrow> </mml:math> space of random variables in contrast to the Euclidean dot product space used by most existing methods, thereby being able to provide the estimation consistency for the low-rank matrix recovery. Moreover, to well calibrate common latent factors, we impose a desirable orthogonality constraint on distinctive latent factors. Existing methods, however, inadequately consider such orthogonality and may thus suffer from substantial loss of undetected common-source variation. Our D-GCCA takes one step further than generalized canonical correlation analysis by separating common and distinctive components among canonical variables, while enjoying an appealing interpretation from the perspective of principal component analysis. Furthermore, we propose to use the variable-level proportion of signal variance explained by common or distinctive latent factors for selecting the variables most influenced. Consistent estimators of our D-GCCA method are established with good finite-sample numerical performance, and have closed-form expressions leading to efficient computation especially for large-scale data. The superiority of D-GCCA over state-of-the-art methods is also corroborated in simulations and real-world data examples.

研究动机与目标

• 为解决在多视角高维数据中识别共同与特异变异来源的挑战。
• 通过在随机变量的L2空间中而非欧几里得空间中公式化分解，提升低秩矩阵恢复的估计一致性。
• 通过强制对特异因子施加正交性，提升对共同潜在因子的检测能力，而现有方法常忽略这一点。
• 为共同或特异成分提供有原则的、变量层面的信号方差解释度量，以指导特征选择。
• 开发一种计算高效的闭式解方法，适用于大规模数据。

提出的方法

• D-GCCA将每个视角的数据矩阵分解为三个部分：一个低秩的共同源矩阵（在各视角间共享），一个低秩的特异源矩阵（每个视角独立），以及一个加性噪声矩阵。
• 该方法在随机变量的L2空间中公式化分解，实现低秩恢复的严格理论一致性。
• 对特异潜在因子施加正交性约束，以防止其干扰共同因子的估计。
• 该方法推导出所有分量的一致估计量，其闭式表达式确保计算效率。
• 计算共同与特异因子在变量层面的信号方差解释度，以指导特征选择。
• 通过在典型变量中显式分离共同与特异分量，将广义典型相关分析推广至更一般形式。

实验结果

研究问题

• RQ1 在随机变量的L2空间中采用基于分解的方法，是否能提升多视角数据中低秩矩阵恢复的估计一致性？
• RQ2 对特异潜在因子强制正交性，是否能相比现有方法更有效地检测共同源变异？
• RQ3 在变量层面计算的信号方差解释比例，是否可有效用于识别多视角数据中的关键特征？
• RQ4 在有限样本下，D-GCCA在估计精度与计算可扩展性方面，相比最先进方法表现如何？
• RQ5 D-GCCA的闭式解是否能确保大规模多视角数据集的高效计算？

主要发现

• 由于在随机变量的L2空间中进行公式化，D-GCCA实现了对低秩分量的一致估计，确保理论可靠性。
• 对特异因子强制正交性显著提升了对共同潜在源的检测能力，减少了偏差并避免共享变异的损失。
• 该方法提供闭式估计量，实现高效计算，尤其适用于大规模数据应用。
• 变量层面的信号方差解释度提供了一个有意义且可解释的度量，用于识别受共同或特异因子影响最大的特征。
• 模拟与真实数据示例表明，D-GCCA在估计精度与鲁棒性方面均优于现有最先进方法。
• 该方法已在期刊论文（JMLR, 2022）中得到验证，证实其在实际与理论层面的合理性。