[论文解读] Deep Learning on Graphs: A Survey

Ziwei Zhang, Peng Cui+1 more|arXiv (Cornell University)|Dec 11, 2018

Advanced Graph Neural Networks参考文献 170被引用 168

一句话总结

对图学习方法的全面综述，将深度学习方法在图上的应用分为五类架构，分析它们的差异，并概述应用及未来方向。

ABSTRACT

Deep learning has been shown to be successful in a number of domains, ranging from acoustics, images, to natural language processing. However, applying deep learning to the ubiquitous graph data is non-trivial because of the unique characteristics of graphs. Recently, substantial research efforts have been devoted to applying deep learning methods to graphs, resulting in beneficial advances in graph analysis techniques. In this survey, we comprehensively review the different types of deep learning methods on graphs. We divide the existing methods into five categories based on their model architectures and training strategies: graph recurrent neural networks, graph convolutional networks, graph autoencoders, graph reinforcement learning, and graph adversarial methods. We then provide a comprehensive overview of these methods in a systematic manner mainly by following their development history. We also analyze the differences and compositions of different methods. Finally, we briefly outline the applications in which they have been used and discuss potential future research directions.

研究动机与目标

• 激励在图上研究深度学习，并解决图数据带来的挑战（非规则结构、异质性、规模和跨学科知识）。
• 提供一份按模型架构和训练策略组织的现有基于图的深度学习方法的系统性综述。
• 阐明 Graph RNNs、GCNs、GAEs、Graph RL 与图对抗方法之间的关系和组合。
• 讨论基于图的深度学习的应用、库以及潜在的未来研究方向。

提出的方法

• 将现有方法基于架构和训练策略分为五类：Graph RNNs、Graph Convolutional Networks、Graph Autoencoders、Graph Reinforcement Learning 和 Graph Adversarial Methods。
• 按大致历史顺序回顾每个类别的发展，以突出演进和联系。
• 分析方法之间的差异与组合，揭示潜在的统一原理。
• 提供应用概览并讨论未来的研究方向及潜在的库/工具。
• 包括附录等补充材料，如代码仓库和时间复杂度分析。

实验结果

研究问题

• RQ1 在图上使用的主要深度学习架构有哪些，它们在概念上和计算上有何差异？
• RQ2 不同的基于图的模型如何相关联或组合以解决更广泛的图任务？
• RQ3 将深度学习应用于图数据的主要挑战是什么，方法如何应对这些挑战？
• RQ4 基于图的深度学习的常见应用和未来方向是什么？

主要发现

• 该综述确定了基于图的深度学习方法的五个核心类别：Graph RNNs、GCNs、GAEs、Graph RL 和图对抗方法。
• 它分析了这些方法的演变及其联系，强调了许多 GNN 与循环框架相关，以及谱方法和时空/空间方法的趋同。
• 它讨论了可扩展性挑战以及用来处理大规模图和异质图类型的架构解决方案。
• 它指出图数据的跨学科性质，以及领域知识如何影响模型设计和约束。
• 它概述了应用，并指向开放的库和未来研究方向。