[논문 리뷰] Deep Learning on Graphs: A Survey

Ziwei Zhang, Peng Cui외 1명|arXiv (Cornell University)|2018. 12. 11.

Advanced Graph Neural Networks참고 문헌 170인용 수 168

한 줄 요약

그래프에 대한 딥러닝 방법을 다섯 가지 아키텍처로 분류하고 차이점을 분석하며 응용 및 향후 방향을 제시하는 포괄적 설문

ABSTRACT

Deep learning has been shown to be successful in a number of domains, ranging from acoustics, images, to natural language processing. However, applying deep learning to the ubiquitous graph data is non-trivial because of the unique characteristics of graphs. Recently, substantial research efforts have been devoted to applying deep learning methods to graphs, resulting in beneficial advances in graph analysis techniques. In this survey, we comprehensively review the different types of deep learning methods on graphs. We divide the existing methods into five categories based on their model architectures and training strategies: graph recurrent neural networks, graph convolutional networks, graph autoencoders, graph reinforcement learning, and graph adversarial methods. We then provide a comprehensive overview of these methods in a systematic manner mainly by following their development history. We also analyze the differences and compositions of different methods. Finally, we briefly outline the applications in which they have been used and discuss potential future research directions.

연구 동기 및 목표

• 그래프에서의 딥러닝 연구를 촉진하고 그래프 데이터의 불규칙한 구조, 이질성, 규모, 그리고 학제간 지식이 제기하는 도전에 대처한다.
• 모델 아키텍처와 학습 전략에 따라 정리된 기존의 그래프 기반 딥러닝 방법에 대한 체계적 검토를 제공한다.
• Graph RNNs, GCNs, GAEs, Graph RL, 및 그래프 적대적 방법 간의 관계와 구성 요소를 명확히 한다.
• 그래프 기반 딥러닝의 응용, 라이브러리, 및 잠재적 미래 연구 방향에 대해 논의한다.

제안 방법

• 아키텍처와 학습 전략을 기준으로 기존 방법을 다섯 가지 범주로 나눈다: Graph RNNs, Graph Convolutional Networks, Graph Autoencoders, Graph Reinforcement Learning, 및 Graph Adversarial Methods.
• 진보와 연결고리를 강조하기 위해 각 범주에서의 개발을 대략적인 연대 순으로 검토한다.
• 방법 간의 차이점과 조합을 분석하여 근본적인 통합 원리를 밝힌다.
• 응용에 대한 개요를 제공하고 향후 연구 방향 및 잠재적 라이브러리에 대해 논의한다.
• 코드 저장소와 시간 복잡도 분석이 포함된 부록과 같은 보충 자료를 포함한다.

실험 결과

연구 질문

• RQ1 그래프에서 사용되는 주요 딥러닝 아키텍처는 무엇이며 개념적으로 그리고 계산적으로 어떻게 차이가 있는가?
• RQ2 다양한 그래프 기반 모델을 어떻게 관련시키거나 결합하여 더 넓은 그래프 작업을 해결할 수 있는가?
• RQ3 그래프 데이터에 딥러닝을 적용하는 주된 도전과제는 무엇이며 방법들이 이를 어떻게 해결해 왔는가?
• RQ4 그래프 기반 딥러닝의 일반적인 응용 및 향후 방향은 무엇인가?

주요 결과

• 본 설문은 그래프 기반 딥러닝 방법의 다섯 가지 핵심 범주: Graph RNNs, GCNs, GAEs, Graph RL, 및 graph adversarial methods를 식별한다.
• 이 방법들 간의 진화와 연계를 분석하고 얼마나 많은 GNN이 재발생 프레임워크와 관련되는지, 그리고 스펙트럴과 공간적 접근 방식이 어떻게 수렴하는지 강조한다.
• 대규모 그래프와 이질적 그래프 유형을 처리하기 위한 확장성 도전과제와 아키텍처적 해결책을 다룬다.
• 그래프 데이터의 학제간 특성과 도메인 지식이 모델 설계 및 제약에 어떻게 반영되는지 주목한다.
• 응용 개요를 제공하고 개방형 라이브러리 및 향후 연구 방향을 제시한다.