[논문 리뷰] Graph Contrastive Learning for Multi-omics Data

Nishant Rajadhyaksha, Aarushi Chitkara|arXiv (Cornell University)|2023. 01. 03.

Bioinformatics and Genomic NetworksBiochemistry, Genetics and Molecular Biology인용 수 3

한 줄 요약

이 논문은 다중오미크스 데이터에서 그래프 신경망을 사전 훈련하기 위해 대조적 자기지도 학습을 사용하는 MOGCL이라는 그래프 대비 학습 프레임워크를 제안한다. 이후 최종 분류 작업에 대해 미세조정을 수행한다. MOGCL은 다양한 기준선을 능가하며, BRCA에서 최대 85.3%의 정확도와 ROSMAP에서 81.8%의 정확도를 기록하여, 대비 학습을 통한 사전 훈련이 다중오미크스 분류를 위한 표현 학습을 크게 향상시킨다는 것을 입증한다.

ABSTRACT

Advancements in technologies related to working with omics data require novel computation methods to fully leverage information and help develop a better understanding of human diseases. This paper studies the effects of introducing graph contrastive learning to help leverage graph structure and information to produce better representations for downstream classification tasks for multi-omics datasets. We present a learnining framework named Multi-Omics Graph Contrastive Learner(MOGCL) which outperforms several aproaches for integrating multi-omics data for supervised learning tasks. We show that pre-training graph models with a contrastive methodology along with fine-tuning it in a supervised manner is an efficient strategy for multi-omics data classification.

연구 동기 및 목표

• 이질적인 다중오미크스 데이터(예: mRNA, miRNA, DNA 메틸화)를 통합하여 질병 분류를 향상시키는 과제를 해결하기 위해.
• 그래프 대비 학습을 통한 자기지도 사전 훈련이 다중오미크스 데이터셋에서 표현 학습을 향상시키는지 탐구하기 위해.
• 감독된 최종 분류 작업을 위한 그래프 신경망과 대비 학습의 조합이 효과적인지 평가하기 위해.
• 다양한 오미크스 데이터 조합이 모델 성능에 미치는 영향을 조사하고 가장 유용한 데이터 조합을 특정하기 위해.
• 대비 학습을 통한 사전 훈련이 종료 훈련 또는 비대비 기준선보다 더 나은 최종 성능을 낼 수 있음을 입증하기 위해.

제안 방법

• 표본을 노드로 모델링하고 오미크스 특징 벡터를 사용해 유사도 기반 엣지를 계산하여 다중오미크스 데이터에서 그래프를 구축한다.
• 대비 학습을 위한 양성 및 음성 뷰 쌍을 생성하기 위해 그래프 증강 기법(예: 특징 마스킹, 구조 훼손)을 적용한다.
• 동일한 그래프의 증강 뷰 간의 일치를 최대화하기 위해 GRACE(깊은 그래프 대비 표현 학습)를 사전 훈련 목적으로 사용한다.
• 사전 훈련 중에 노드 표현을 학습하기 위해 그래프 컬러지션 네트워크(GCN)를 인코더로 활용한다.
• 교차 엔트로피 손실을 통해 진짜 레이블을 사용해 최종 분류 작업에서 사전 훈련된 인코더를 미세조정한다.
• 다양한 오미크스 데이터 조합에서의 성능을 평가하여 개별 오미크스 유형이 최종 분류 정확도에 기여하는 정도를 분석한다.

Figure 1: Contrastive Learning for GNN Encoder

실험 결과

연구 질문

• RQ1 그래프 대비 학습은 감독 분류 작업에서 다중오미크스 데이터의 표현 학습을 향상시킬 수 있는가?
• RQ2 사전 훈련을 통한 대비 학습은 종료 훈련 또는 비대비 방법에 비해 최종 성능에서 어떻게 비교되는가?
• RQ3 MOGCL에서 사용할 때 mRNA, miRNA, DNA 메틸화와 같은 다양한 오미크스 유형 조합 중에서 어떤 조합이 가장 높은 분류 성능을 낼 수 있는가?
• RQ4 t-SNE를 통해 시각화한 결과, 반도체 학습 단계가 더 구조적이고 분리 가능한 임베딩을 생성하는가?
• RQ5 ROSMAP와 BRCA와 같은 다양한 다중오미크스 데이터셋에서 MOGCL의 성능은 어떻게 변하는가?

주요 결과

• MOGCL은 BRCA 데이터셋에서 85.3%의 정확도를 기록하여 MOGONET_NN(80.5%) 및 기타 기준선을 능가한다.
• ROSMAP 데이터셋에서 MOGCL은 81.8%의 정확도를 기록했으며, MOGONET_NN의 80.4%보다 높아 사전 훈련을 통한 일관된 성능 향상을 입증한다.
• MOGCL은 ROSMAP에서 AUC 0.866, BRCA에서 AUC 0.853을 기록하여 강력한 분류 성능를 보였다.
• MOGCL의 F1-macro 스코어는 BRCA에서 0.823, ROSMAP에서 0.818이며, 각각 MOGONET_NN의 0.737과 0.808보다 뚜렷이 높았다.
• t-SNE 시각화를 통해 GCN로 인코딩된 특징의 경우, 대비 학습을 통한 사전 훈련이 더 구조적이고 분리 가능한 임베딩을 생성한다는 것이 확인되었다.
• 모든 오미크스 유형을 입력 단계에서 연결했을 때 가장 높은 성능를 기록했으며, BRCA에서는 mRNA와 DNA 메틸화 조합이 다음으로 우수했고, ROSMAP에서는 mRNA와 miRNA 조합이 가장 우수했다.

Figure 2: Downstream Supervised Training of GNN Encoder