[论文解读] A general multiblock method for structured variable selection

Tommy Löfstedt, Fouad Hadj‐Selem+6 more|arXiv (Cornell University)|Oct 29, 2016

Statistical Methods and Inference参考文献 11被引用 4

一句话总结

该论文提出了一种广义的多块方法，将稀疏GCCA扩展至在完整RGCCA框架内引入结构化惩罚和稀疏性诱导惩罚，通过任意 $\tau \in [0,1]$ 实现灵活正则化，并支持如组套lasso和总变差等结构化惩罚。该方法在模拟数据中成功恢复了真实的潜在权重向量，并在高级别胶质母细胞瘤数据集中识别出具有临床意义的基因群，展示了改进的变量选择能力和预测性能。

ABSTRACT

Regularised canonical correlation analysis was recently extended to more than two sets of variables by the multiblock method Regularised generalised canonical correlation analysis (RGCCA). Further, Sparse GCCA (SGCCA) was proposed to address the issue of variable selection. However, for technical reasons, the variable selection offered by SGCCA was restricted to a covariance link between the blocks (i.e., with $τ=1$). One of the main contributions of this paper is to go beyond the covariance link and to propose an extension of SGCCA for the full RGCCA model (i.e., with $τ\in[0, 1]$). In addition, we propose an extension of SGCCA that exploits structural relationships between variables within blocks. Specifically, we propose an algorithm that allows structured and sparsity-inducing penalties to be included in the RGCCA optimisation problem. The proposed multiblock method is illustrated on a real three-block high-grade glioma data set, where the aim is to predict the location of the brain tumours, and on a simulated data set, where the aim is to illustrate the method's ability to reconstruct the true underlying weight vectors.

研究动机与目标

• 为克服SGCCA中仅允许 $\tau=1$（协方差链接）正则化的局限性，实现在RGCCA框架内的完全灵活性。
• 将结构化惩罚（如组套lasso和总变差）整合到RGCCA优化中，以利用块内变量关系的先验知识。
• 开发一种通用算法，实现在多块数据分析中同时实现稀疏性和结构。
• 通过真实生物数据（高级别胶质母细胞瘤）和模拟数据验证该方法，证明其恢复真实潜在权重向量的能力。

提出的方法

• 该方法通过引入 $\tau_k \in [0,1]$ 扩展RGCCA，以平衡内积中的协方差与相关性，从而支持完整的正则化方案。
• 在优化问题中引入结构化惩罚（如组套lasso、总变差），使具有已知关系的变量（如基因群、空间邻近性）能够被共同选择。
• 优化问题采用广义范数约束 $\mathbf{w}_k^T \mathbf{M}_k \mathbf{w}_k = 1$，其中 $\mathbf{M}_k = \tau_k \mathbf{I}_{p_k} + \frac{1-\tau_k}{n-1} \mathbf{X}_k^T \mathbf{X}_k$。
• 推导出一种快速投影算法用于二次惩罚，实现结构化稀疏性的高效计算。
• 支持每个块中多种惩罚类型，根据数据结构自适应调整正则化（如基因集使用组套lasso，空间数据使用总变差）。
• 采用块坐标下降方法实现算法，通过在结构化约束下交替优化权重向量。

实验结果

研究问题

• RQ1 是否能有效将结构化变量选择整合到RGCCA框架中，超越 $\tau=1$ 的严格限制？
• RQ2 在存在噪声和复杂变量结构的情况下，所提出方法在多大程度上能恢复真实的潜在权重向量？
• RQ3 在真实多块组学生物数据（如胶质母细胞瘤肿瘤位置预测）中，结构化惩罚是否能提升预测性能和生物学可解释性？
• RQ4 在模拟数据中，不同结构化惩罚（如组套lasso、总变差）在恢复真实信号模式方面的表现如何比较？

主要发现

• 在模拟数据中，总变差惩罚最有效地重建了真实的潜在权重向量，保持了平滑性并去除了噪声，同时保持了信号完整性。
• 组套lasso惩罚成功识别并去除了真实权重为零的组，同时近似了活跃组的均值，尽管仍存在一些残余噪声。
• 在真实胶质母细胞瘤数据集中，该方法识别出与肿瘤位置和耐药性相关的生物相关基因群，如阿尔茨海默病（hsa05010）、轴突导向（hsa04360）和核苷酸切除修复（hsa03420）。
• 柠檬酸循环（TCA循环，hsa00020）被排除在模型之外，这与它在肿瘤位置预测中可能缺乏特异性一致。
• 自 resampling 平均结果显示，第一和第二成分分别选中了125.5和126.3个基因群，表明群体选择具有稳定性。
• 该方法在降噪和信号恢复方面优于未惩罚的RGCCA，尤其在第一成分中，总变差方法在存在噪声的情况下仍能保持真实轮廓。