[논문 리뷰] Graph Neural Networks: Methods, Applications, and Opportunities

Lilapati Waikhom, Ripon Patgiri|arXiv (Cornell University)|2021. 08. 24.

Advanced Graph Neural Networks참고 문헌 192인용 수 31

한 줄 요약

학습 설정 전반에 걸친 그래프 신경망(GNNs)에 대한 포괄적 고찰로, 분류법, 아키텍처, 데이터셀트, 응용 분야, 도전과제 및 향후 방향을 제공합니다.

ABSTRACT

In the last decade or so, we have witnessed deep learning reinvigorating the machine learning field. It has solved many problems in the domains of computer vision, speech recognition, natural language processing, and various other tasks with state-of-the-art performance. The data is generally represented in the Euclidean space in these domains. Various other domains conform to non-Euclidean space, for which graph is an ideal representation. Graphs are suitable for representing the dependencies and interrelationships between various entities. Traditionally, handcrafted features for graphs are incapable of providing the necessary inference for various tasks from this complex data representation. Recently, there is an emergence of employing various advances in deep learning to graph data-based tasks. This article provides a comprehensive survey of graph neural networks (GNNs) in each learning setting: supervised, unsupervised, semi-supervised, and self-supervised learning. Taxonomy of each graph based learning setting is provided with logical divisions of methods falling in the given learning setting. The approaches for each learning task are analyzed from both theoretical as well as empirical standpoints. Further, we provide general architecture guidelines for building GNNs. Various applications and benchmark datasets are also provided, along with open challenges still plaguing the general applicability of GNNs.

연구 동기 및 목표

• 그래프 및 그래프 기반 작업의 기본 용어와 변형을 정의한다.
• 각 학습 설정(감독학습, 비지도학습, 반감독학습, 자기지도학습)에 대한 GNN의 분류체계를 제시한다.
• 학습 설정 전반에 걸쳐 이론적 및 경험적 관점에서 GNN 방법을 분석한다.
• GNN 아키텍처 설계를 위한 일반적인 가이드라인을 제공한다.
• 향후 연구를 이끄는 데이터셋, 응용 분야 및 개방형 도전과제를 조사한다.

제안 방법

• GNN에서 사용되는 그래프 표현 및 메시지 전달 프레임워크를 설명한다.
• 학습 설정별(GNN 변형)에 대한 분류체계를 개발한다(감독, 비지도, 반감, 자기지도).
• 노드, 엣지, 그래프 및 서브그래프 수준의 작업을 분류하고 해당 방법을 논의한다.
• GNN 연구에서의 데이터셋, 응용 분야 및 벤치마킹 관행을 요약한다.
• 확장 가능하고 견고한 GNN을 위한 아키텍처 가이드라인 및 설계 고려사항을 개요화한다.
• 개방형 도전과제와 향후 연구 방향을 심층적으로 논의한다.

실험 결과

연구 질문

• RQ1 다양한 학습 설정(감독, 비지도, 반감, 자기지도)에서 지배적인 GNN 방법은 무엇인가?
• RQ2 그래프 변형과 작업 계층이 도메인 간 GNN 설계와 성능에 어떤 영향을 미치는가?
• RQ3 GNN의 성공과 한계를 설명하는 이론적·경험적 통찰은 무엇이며 향후 연구 방향은 무엇인가?
• RQ4 어떤 데이터셋과 벤치마크가 작업 전반에서 GNN의 역량과 도전을 가장 잘 반영하는가?
• RQ5 효과적이고 확장 가능한 GNN 아키텍처를 구축하기 위한 가이드라인은 무엇인가?

주요 결과

• 각 학습 설정에 맞춘 GNN의 새로운 분류체계를 제공한다.
• 작업 및 도메인 전반에 걸친 GNN 접근법의 이론적 및 경험적 분석을 제시한다.
• GNN 구축을 위한 일반적인 아키텍처 가이드라인을 제시한다.
• 그래프 기반 학습에서 널리 사용되는 데이터셋 및 응용 분야를 문서화한다.
• 개방형 도전과제를 식별하고 깊이 있는 향후 연구 방향을 제안한다(깊이, 확장성, 고차구조, 견고성).