[论文解读] L0-norm Sparse Graph-regularized SVD for Biclustering

Wenwen Min, Juan Liu+1 more|arXiv (Cornell University)|Mar 19, 2016

Gene expression and cancer classification被引用 5

一句话总结

本论文提出L0-范数稀疏图正则化SVD（sgSVD*），通过整合基因互作网络并利用L0-范数与一种新型绝对值图正则化惩罚项，实现结构稀疏性，从而增强高维数据的双聚类效果。该方法通过捕捉具有更高边富集度和功能富集度的生物相关基因模块，提升了生物可解释性与模块富集度，优于现有方法如L0SVD和sgSVD。

ABSTRACT

Learning the "blocking" structure is a central challenge for high dimensional data (e.g., gene expression data). Recently, a sparse singular value decomposition (SVD) has been used as a biclustering tool to achieve this goal. However, this model ignores the structural information between variables (e.g., gene interaction graph). Although typical graph-regularized norm can incorporate such prior graph information to get accurate discovery and better interpretability, it fails to consider the opposite effect of variables with different signs. Motivated by the development of sparse coding and graph-regularized norm, we propose a novel sparse graph-regularized SVD as a powerful biclustering tool for analyzing high-dimensional data. The key of this method is to impose two penalties including a novel graph-regularized norm ($|\pmb{u}|\pmb{L}|\pmb{u}|$) and $L_0$-norm ($\|\pmb{u}\|_0$) on singular vectors to induce structural sparsity and enhance interpretability. We design an efficient Alternating Iterative Sparse Projection (AISP) algorithm to solve it. Finally, we apply our method and related ones to simulated and real data to show its efficiency in capturing natural blocking structures.

研究动机与目标

• 解决现有稀疏SVD方法在捕捉高维数据（如基因表达矩阵）中生物上有意义的块结构方面的局限性。
• 将先验基因互作网络整合到稀疏SVD中，通过图正则化惩罚项提升可解释性与泛化能力。
• 通过引入基于绝对值的正则化项，克服经典图正则化惩罚项对符号的依赖性偏差。
• 开发一种高效的优化算法，用于求解非凸、非光滑的L0-范数与绝对值图正则化SVD问题。
• 通过模拟数据与真实基因表达数据集验证该方法在识别生物富集基因模块方面的优越性。

提出的方法

• 提出一种新型图正则化惩罚项 |u|L|u|，通过使用绝对值来整合奇异向量的大小，提升对变量关系中符号相反情况的鲁棒性。
• 对奇异向量施加L0-范数正则化，以实现结构稀疏性，促进可解释且紧凑的基因模块。
• 开发一种交替迭代稀疏投影（AISP）算法，通过迭代更新奇异向量并巧妙重构绝对值惩罚项，求解非凸优化问题。
• 在单秩SVD框架下应用该方法，通过迭代提取奇异向量对并进行数据降维，识别多个双聚类。
• 使用先验基因互作网络（如来自Pathway-Commons的网络）作为图拉普拉斯矩阵L，引导正则化过程。
• 采用倍数变化（FC）检验与超几何检验评估边富集度，通过GO富集分析评估所识别模块的生物相关性。

实验结果

研究问题

• RQ1 L0-范数正则化能否提升稀疏SVD中奇异向量的稀疏性与可解释性，以实现双聚类？
• RQ2 通过图正则化整合基因互作网络，能否增强所识别双聚类的生物相关性？
• RQ3 基于绝对值的新型图正则化惩罚项能否在处理符号相反的变量时优于标准图正则化惩罚项？
• RQ4 所提出的AISP算法在求解L0-范数稀疏图正则化SVD的非凸、非光滑优化问题时是否高效且有效？
• RQ5 在真实基因表达数据中，sgSVD*识别出的双聚类是否显著优于L0SVD与sgSVD的边富集度与功能富集度？

主要发现

• 在CGP与BRCA数据集中，sgSVD*在边富集度方面的倍数变化（FC）得分显著高于sgSVD与L0SVD，表明其识别出更具生物相关性的基因模块。
• 在显著性水平为0.05时，sgSVD*在CGP数据中67.5%的模块具有边富集性，高于sgSVD的62.5%与L0SVD的57.5%。
• 在BRCA数据中，sgSVD*在显著性水平0.10时有70.0%的模块具有边富集性，优于sgSVD的60.0%与L0SVD的57.5%。
• sgSVD*识别出的基因本体（GO）生物过程术语富集度显著高于sgSVD与L0SVD，尤其在严格显著性水平（如0.001）下表现更优。
• 在40个随机置换的模块中未发现显著的GO富集项，证实sgSVD*结果中的富集现象并非由随机因素导致。
• 该方法在不同σv取值下均保持稳健，当σv = 0.4时观察到一致结果，表明性能具有稳定性。