[논문 리뷰] Data Augmentation for Deep Graph Learning: A Survey

Kaize Ding, Zhe Xu외 2명|arXiv (Cornell University)|2022. 02. 16.

Advanced Graph Neural Networks인용 수 27

한 줄 요약

이 리뷰는 그래프 데이터 증강(GraphDA)을 형식화하고 증강 방식별 분류법을 제공하며 GraphDA 기법과 저자원 및 신뢰할 수 있는 그래프 학습에의 적용을 검토한다.

ABSTRACT

Graph neural networks, a powerful deep learning tool to model graph-structured data, have demonstrated remarkable performance on numerous graph learning tasks. To address the data noise and data scarcity issues in deep graph learning, the research on graph data augmentation has intensified lately. However, conventional data augmentation methods can hardly handle graph-structured data which is defined in non-Euclidean space with multi-modality. In this survey, we formally formulate the problem of graph data augmentation and further review the representative techniques and their applications in different deep graph learning problems. Specifically, we first propose a taxonomy for graph data augmentation techniques and then provide a structured review by categorizing the related work based on the augmented information modalities. Moreover, we summarize the applications of graph data augmentation in two representative problems in data-centric deep graph learning: (1) reliable graph learning which focuses on enhancing the utility of input graph as well as the model capacity via graph data augmentation; and (2) low-resource graph learning which targets on enlarging the labeled training data scale through graph data augmentation. For each problem, we also provide a hierarchical problem taxonomy and review the existing literature related to graph data augmentation. Finally, we point out promising research directions and the challenges in future research.

연구 동기 및 목표

• GraphDA 문제와 그 도전 과제를 형식적으로 공식화한다.
• 증강 방식에 따른 GraphDA 기법의 포괄적 분류법을 제안한다.
• 저자원 그래프 학습 및 신뢰할 수 있는 그래프 학습에서 GraphDA 적용을 검토한다.
• 학습 가능한 GraphDA 방법의 학습 패러다임(분리 학습, 공동 학습, 이중 최적화) 요약한다.
• 향후 GraphDA 연구를 위한 열린 문제와 유망한 방향을 강조한다.

제안 방법

• 증강 변환 f_theta(G) 를 정의하여 증강 연결 및 피처 행렬을 가진 tilde_G 를 생성한다.
• 구조적, 피처적, 라벨 지향 중 하나로 증강 방법을 분류한다.
• 학습 가능한 GraphDA 를 위한 세 가지 학습 패러다임: 분리 학습, 공동 학습, 이중 최적화를 설명한다.
• 증강 및 유틸리티 손실 L_aug 및 L_utility 와 최적화에서의 역할을 도입한다.
• GraphDA 기법의 구조화된 문헌 검토와 다양한 DGL 작업에의 적용을 제공한다.

실험 결과

연구 질문

• RQ1 그래프 데이터 증강(GraphDA)이란 무엇이며 이를 형식적으로 정의할 수 있는가?
• RQ2 그래프 데이터 증강(GraphDA) 기법을 어떻게 증강 방식별로 체계적으로 분류할 수 있는가?
• RQ3 GraphDA 기법이 저자원 그래프 학습 및 신뢰할 수 있는 그래프 학습에 어떻게 적용되는가?
• RQ4 어떤 학습 전략 및 목적이 GraphDA 를 다운스트림 GNN 작업과 가장 잘 통합하는가?

주요 결과

• 이는 GraphDA에 전념하는 첫 번째 설문으로 형식적 공식화와 통일된 검토를 제공한다.
• 대상 모달리티(구조- 지향, 피처- 지향, 라벨- 지향)에 따른 GraphDA 기법의 포괄적 분류법이 제시된다.
• 저자원 그래프 학습(SSL 및 반지도 학습 포함)과 신뢰할 수 있는 그래프 학습에 대한 GraphDA의 적용이 분석된다.
• 논문은 학습 패러다임(분리, 공동, 이중 최적화)을 논의하고 열린 과제와 향후 방향을 제시한다.
• GraphDA 기법을 실용적인 그래프 작업과 연결하고 효과적인 증강을 위한 설계 원칙을 강조한다.