[论文解读] Graph Contrastive Learning for Multi-omics Data

Nishant Rajadhyaksha, Aarushi Chitkara|arXiv (Cornell University)|Jan 3, 2023

Bioinformatics and Genomic NetworksBiochemistry, Genetics and Molecular Biology被引用 3

一句话总结

本文提出 MOGCL，一种图对比学习框架，在下游分类任务微调之前，利用对比自监督方法对多组学数据中的图神经网络进行预训练。MOGCL 在多个基线方法中表现更优，在 BRCA 上达到 85.3% 的准确率，在 ROSMAP 上达到 81.8%，表明通过对比学习进行预训练能显著提升多组学分类的表征学习能力。

ABSTRACT

Advancements in technologies related to working with omics data require novel computation methods to fully leverage information and help develop a better understanding of human diseases. This paper studies the effects of introducing graph contrastive learning to help leverage graph structure and information to produce better representations for downstream classification tasks for multi-omics datasets. We present a learnining framework named Multi-Omics Graph Contrastive Learner(MOGCL) which outperforms several aproaches for integrating multi-omics data for supervised learning tasks. We show that pre-training graph models with a contrastive methodology along with fine-tuning it in a supervised manner is an efficient strategy for multi-omics data classification.

研究动机与目标

• 解决异质性多组学数据（如 mRNA、miRNA、DNA 甲基化）整合以提升疾病分类性能的挑战。
• 探究通过图对比学习进行自监督预训练是否能增强多组学数据集中的表征学习能力。
• 评估图神经网络与对比学习结合在监督下游分类任务中的有效性。
• 研究不同组学数据组合对模型性能的影响，识别最具信息量的数据组合。
• 证明与端到端训练或非对比性基线方法相比，通过对比学习进行预训练能带来更优的下游性能。

提出的方法

• 通过将样本建模为节点，并基于组学特征向量计算相似性边，从多组学数据构建图结构。
• 应用图增强技术（如特征掩码、拓扑扰动）生成同一图的不同增强视图对（正样本对与负样本对），用于对比学习。
• 采用 GRACE（深度图对比表示学习）作为预训练目标，以最大化同一图在不同增强视图下的表示一致性。
• 使用图卷积网络（GCN）作为编码器，在预训练过程中学习节点表示。
• 通过交叉熵损失，在下游分类任务中使用真实标签对预训练编码器进行微调。
• 通过评估多种组学数据组合的性能，分析各组学类型对最终分类准确率的贡献。

Figure 1: Contrastive Learning for GNN Encoder

实验结果

研究问题

• RQ1 图对比学习能否在监督分类任务中提升多组学数据的表征学习能力？
• RQ2 与端到端训练或非对比性方法相比，通过对比学习进行预训练在下游性能上表现如何？
• RQ3 在 MOGCL 中，哪些组学数据类型组合（如 mRNA、miRNA、DNA 甲基化）能实现最佳分类性能？
• RQ4 半监督预训练阶段是否生成了更具结构化和可分性的嵌入表示，如通过 t-SNE 可视化所展示？
• RQ5 MOGCL 在 ROSMAP 和 BRCA 等不同多组学数据集上的性能表现如何？

主要发现

• 在 BRCA 数据集上，MOGCL 达到 85.3% 的准确率，优于 MOGONET_NN（80.5%）及其他基线方法。
• 在 ROSMAP 数据集上，MOGCL 准确率达到 81.8%，高于 MOGONET_NN 的 80.4%，表明预训练带来了一致的性能提升。
• MOGCL 在 ROSMAP 上的 AUC 为 0.866，在 BRCA 上为 0.853，表明其具有强大的判别性能。
• MOGCL 在 BRCA 上的 F1-macro 得分为 0.823，在 ROSMAP 上为 0.818，显著高于 MOGONET_NN 的 0.737 和 0.808。
• 通过 t-SNE 可视化显示，与对比学习进行预训练后，GCN 编码的特征嵌入更具结构化和可分性。
• 在输入阶段将所有组学类型拼接时性能最佳；在 BRCA 上，mRNA 与 DNA 甲基化组合次之；在 ROSMAP 上，mRNA 与 miRNA 组合表现最佳。

Figure 2: Downstream Supervised Training of GNN Encoder