[논문 리뷰] MultiVERSE: a multiplex and multiplex-heterogeneous network embedding approach

Léo Pio‐Lopez, Alberto Valdeolivas외 3명|arXiv (Cornell University)|2020. 08. 23.

Advanced Graph Neural Networks참고 문헌 148인용 수 50

한 줄 요약

MultiVERSE는 VERSE 프레임워크를 Random Walks with Restart on Multiplex (RWR-M)와 Multiplex-Heterogeneous (RWR-MH)로 확장하여 multiplex 및 multiplex-heterogeneous 네트워크에서 노드 임베딩을 학습하고, 링크 예측 및 네트워크 재구성 성능이 개선됨을 보여준다.

ABSTRACT

Network embedding approaches are gaining momentum to analyse a large variety of networks. Indeed, these approaches have demonstrated their efficiency for tasks such as community detection, node classification, and link prediction. However, very few network embedding methods have been specifically designed to handle multiplex networks, i.e. networks composed of different layers sharing the same set of nodes but having different types of edges. Moreover, to our knowledge, existing approaches cannot embed multiple nodes from multiplex-heterogeneous networks, i.e. networks composed of several layers containing both different types of nodes and edges. In this study, we propose MultiVERSE, an extension of the VERSE method with Random Walks with Restart on Multiplex (RWR-M) and Multiplex-Heterogeneous (RWR-MH) networks. MultiVERSE is a fast and scalable method to learn node embeddings from multiplex and multiplex-heterogeneous networks. We evaluate MultiVERSE on several biological and social networks and demonstrate its efficiency. MultiVERSE indeed outperforms most of the other methods in the tasks of link prediction and network reconstruction for multiplex network embedding, and is also efficient in the task of link prediction for multiplex-heterogeneous network embedding. Finally, we apply MultiVERSE to study rare disease-gene associations using link prediction and clustering. MultiVERSE is freely available on github at https://github.com/Lpiol/MultiVERSE.

연구 동기 및 목표

• 멀티플렉스 및 멀티플렉스-이질 네트워크에 특화된 임베딩 방법의 필요성을 동기 부여합니다.
• VERSE를 RWR-M 및 RWR-MH로 확장하여 여러 층 및 노드 유형에 걸쳐 노드 임베딩을 학습합니다.
• 링크 예측 및 네트워크 재구성을 위한 생물학적 및 사회적 네트워크에서의 성능을 평가합니다.
• 링크 예측 및 클러스터링을 통한 희귀 질환-유전자 연관성에의 적용을 시연합니다.
• 연구 커뮤니티를 위한 오픈 소스 구현을 제공합니다.

제안 방법

• VERSE를 일반 임베딩 프레임워크로 채택하고 그래프 기반 유사도 분포와 임베딩 기반 유사도 분포 간의 KL-발산을 Noise Contrastive Estimation (NCE)을 사용하여 최소화합니다.
• 유사도 분포 sim_G를 Random Walk with Restart on Multiplex (RWR-M)와 Multiplex-Heterogeneous 네트워크(RWR-MH)에서 정의합니다.
• 멀티플렉스 그래프를 L개의 층으로 표현하고, RWR-M 및 RWR-MH에 해당하는 멀티플렉스- 및 이질-연결 전이 구조를 구성합니다.
• RWR-M 및 RWR-MH를 실행하여 VERSE 입력으로 적합한 노드 간의 유사도 분포를 얻고, 그 후 확률적 업데이트와 NCE 바이어스를 사용하여 임베딩을 학습합니다.
• MultiVERSE에서 유사도 분포에서 노드 쌍을 샘플링하고, NCE(바이어스 항 포함)와 이진 분류기 목적 함수를 통해 임베딩 업데이트를 적용합니다.
• 재현성을 위한 공개 GitHub 릴리스를 제공합니다.

실험 결과

연구 질문

• RQ1 MultiVERSE가 층을 병합하지 않고도 multiplex 네트워크의 노드를 효과적으로 임베딩하여 층별 토폴로지를 보존할 수 있는가?
• RQ2 MultiVERSE가 multiplex-heterogeneous 네트워크로 확장되어 여러 노드 유형을 임베딩할 수 있는가?
• RQ3 기존의 단일층 및 멀티플렉스 임베딩 방법과 비교했을 때 링크 예측 및 네트워크 재구성 작업에서 MultiVERSE의 성능은 어떠한가?
• RQ4 대규모 multiplex 및 multiplex-heterogeneous 네트워크에 대해 MultiVERSE가 확장 가능하고 생물학적 및 사회적 데이터셋에 적응할 수 있는가?
• RQ5 링크 예측 및 클러스터링을 통한 유전자-질환 연관성 분석과 같은 다운스트림 생물학적 인사이트를 MultiVERSE가 가능하게 하는가?

주요 결과

• MultiVERSE는 multiplex 네트워크의 링크 예측 및 네트워크 재구성에서 최첨단 방법보다 우수한 성능을 보인다.
• MultiVERSE는 서로 다른 노드 유형 간의 임베딩을 다루는 최초의 multiplex-heterogeneous 임베딩 방법을 제공한다.
• 생물학적, 신경계, 공동저자, 사회 도메인의 7개의 multiplex 데이터셋에 대한 평가가 효율성 및 확장성을 입증한다.
• 이 프레임워크는 링크 예측 및 클러스터링을 통한 희귀 질환-유전자 연관성 연구와 같은 응용을 지원한다.
• 해당 접근 방식은 공개 소스 소프트웨어(GitHub: Lpiol/MultiVERSE)로 구현되어 있다.