[論文レビュー] Graph Contrastive Learning for Multi-omics Data

Nishant Rajadhyaksha, Aarushi Chitkara|arXiv (Cornell University)|Jan 3, 2023

Bioinformatics and Genomic NetworksBiochemistry, Genetics and Molecular Biology被引用数 3

ひとこと要約

本稿では、下流分類タスクにおける微調整の前に、マルチオミクスデータ上でグラフ自己教師付き学習を用いてグラフニューラルネットワークを事前学習するMOGCLというグラフ対照的学習フレームワークを提案する。MOGCLは複数のベースラインを上回り、BRCAでは最大85.3%の正確性、ROSMAPでは81.8%を達成し、対照的学習による事前学習がマルチオミクス分類の表現学習を顕著に向上させることを示している。

ABSTRACT

Advancements in technologies related to working with omics data require novel computation methods to fully leverage information and help develop a better understanding of human diseases. This paper studies the effects of introducing graph contrastive learning to help leverage graph structure and information to produce better representations for downstream classification tasks for multi-omics datasets. We present a learnining framework named Multi-Omics Graph Contrastive Learner(MOGCL) which outperforms several aproaches for integrating multi-omics data for supervised learning tasks. We show that pre-training graph models with a contrastive methodology along with fine-tuning it in a supervised manner is an efficient strategy for multi-omics data classification.

研究の動機と目的

• 異種のマルチオミクスデータ（例：mRNA、miRNA、DNAメチル化）を統合して疾患分類を改善する課題に対処すること。
• グラフ対照的学習による自己教師付き事前学習が、マルチオミクスデータセットにおける表現学習を向上させるかどうかを検討すること。
• 教師あり下流分類タスクにおけるグラフニューラルネットワークと対照的学習の組み合わせの有効性を評価すること。
• 異なるオミクスデータの組み合わせがモデル性能に与える影響を調査し、最も情報の多いデータコンビネーションを同定すること。
• 対照的学習による事前学習が、エンドツーエンド学習や非対照的ベースラインと比較して、より優れた下流性能をもたらすことを実証すること。

提案手法

• オミクス特徴ベクトルを用いて類似度に基づくエッジを計算することで、サンプルをノードとしてモデル化し、マルチオミクスデータからグラフを構築する。
• 特徴マスキングやトポロジーの摂動などのグラフ増強技術を適用し、同一グラフの正例および負例のペアを生成する。
• 同じグラフの増強ビュー間の一致を最大化する目的関数として、GRACE（deep GRAph Contrastive rEpresentation learning）を事前学習の目的関数として用いる。
• 事前学習中のノード表現学習のため、グラフ畳み込みネットワーク（GCN）をエンコーダーとして採用する。
• 交差エントロピー損失を用いて、真のラベルを用いて下流分類タスクで事前学習済みエンコーダーを微調整する。
• 複数のオミクスデータの順列を用いて性能を評価し、個々のオミクスタイプが最終分類正確性に与える寄与度を評価する。

Figure 1: Contrastive Learning for GNN Encoder

実験結果

リサーチクエスチョン

• RQ1 グラフ対照的学習は、教師あり分類タスクにおけるマルチオミクスデータの表現学習を改善できるか？
• RQ2 対照的学習による事前学習は、エンドツーエンド学習や非対照的手法と比較して、下流性能においてどのように異なるか？
• RQ3 mRNA、miRNA、DNAメチル化などのオミクスタイプの組み合わせの中で、MOGCLで最も優れた分類性能を達成するのはどれか？
• RQ4 t-SNEによる可視化から、半教師あり事前学習フェーズが、より構造的かつ分離可能な埋め込みを生成しているか？
• RQ5 ROSMAP や BRCA などの異なるマルチオミクスデータセットにおいて、MOGCLの性能はどのように変動するか？

主な発見

• BRCAデータセットではMOGCLが85.3%の正確性を達成し、MOGONET_NN（80.5%）や他のベースラインを上回っている。
• ROSMAPデータセットではMOGCLが81.8%の正確性を達成し、MOGONET_NNの80.4%を上回り、事前学習による一貫した改善が示された。
• ROSMAPではAUCが0.866、BRCAでは0.853を記録し、優れた判別性能を示している。
• BRCAではF1-macroスコアが0.823、ROSMAPでは0.818を達成し、それぞれMOGONET_NNの0.737および0.808を顕著に上回っている。
• 対照的学習による事前学習は、GCNでエンコードされた特徴のt-SNE可視化から、より構造的かつ分離可能な埋め込みを生成していることが示された。
• 入力段階ですべてのオミクスタイプを連結した場合が最も高い性能を示し、BRCAではmRNAとDNAメチル化、ROSMAPではmRNAとmiRNAの組み合わせが次に優れた結果をもたらした。

Figure 2: Downstream Supervised Training of GNN Encoder