[论文解读] Data Augmentation for Deep Graph Learning: A Survey

Kaize Ding, Zhe Xu+2 more|arXiv (Cornell University)|Feb 16, 2022

Advanced Graph Neural Networks被引用 27

一句话总结

本综述形式化了图数据增强（GraphDA），按增强模态提供了分类，并评估了 GraphDA 技术及其在低资源与可靠图学习中的应用。

ABSTRACT

Graph neural networks, a powerful deep learning tool to model graph-structured data, have demonstrated remarkable performance on numerous graph learning tasks. To address the data noise and data scarcity issues in deep graph learning, the research on graph data augmentation has intensified lately. However, conventional data augmentation methods can hardly handle graph-structured data which is defined in non-Euclidean space with multi-modality. In this survey, we formally formulate the problem of graph data augmentation and further review the representative techniques and their applications in different deep graph learning problems. Specifically, we first propose a taxonomy for graph data augmentation techniques and then provide a structured review by categorizing the related work based on the augmented information modalities. Moreover, we summarize the applications of graph data augmentation in two representative problems in data-centric deep graph learning: (1) reliable graph learning which focuses on enhancing the utility of input graph as well as the model capacity via graph data augmentation; and (2) low-resource graph learning which targets on enlarging the labeled training data scale through graph data augmentation. For each problem, we also provide a hierarchical problem taxonomy and review the existing literature related to graph data augmentation. Finally, we point out promising research directions and the challenges in future research.

研究动机与目标

• 正式给出 GraphDA 问题及其挑战的形式化定义。
• 提出按增强模态的 GraphDA 技术的全面分类。
• 综述 GraphDA 在低资源图学习和可靠图学习中的应用。
• 总结可学习的 GraphDA 方法的训练范式（解耦、联合、双层）。
• 突出未来 GraphDA 研究的开放问题和有前景的方向。

提出的方法

• 定义增强变换 f_theta(G)，以生成带有扩增的邻接矩阵和特征矩阵的 tilde_G。
• 将增强方法分为结构、特征或标签导向。
• 描述可学习的 GraphDA 的三种训练范式：解耦训练、联合训练和双层优化。
• 引入增强损失 L_aug 和效用损失 L_utility，以及它们在优化中的作用。
• 提供对 GraphDA 技术及其在不同 DGL 任务中的应用的结构化文献综述。

实验结果

研究问题

• RQ1 什么是图数据增强（GraphDA），以及如何对其进行形式化定义？
• RQ2 如何按增强模态系统性地对 GraphDA 技术进行分类？
• RQ3 GraphDA 技术如何应用于低资源图学习和可靠图学习？
• RQ4 哪些训练策略和目标最能将 GraphDA 与下游 GNN 任务整合？

主要发现

• 这是第一篇专注于 GraphDA 的综述，提供了形式化定义和统一的综述。
• 提出了按目标模态（结构导向、特征导向、标签导向）的 GraphDA 技术的全面分类。
• 对 GraphDA 在低资源图学习（SSL 和半监督）以及可靠图学习中的应用进行了分析。
• 本文讨论了训练范式（解耦、联合、双层）并概述了开放挑战和未来方向。
• 它将 GraphDA 技术与实际图任务联系起来，并强调有效增强的设计原则。