[论文解读] Graph Neural Networks Designed for Different Graph Types: A Survey

Josephine Maria Thomas, Alice Moallemy-Oureh+2 more|arXiv (Cornell University)|Apr 6, 2022

Advanced Graph Neural Networks被引用 16

一句话总结

本综述系统性地按图神经网络（GNNs）处理不同图类型（如静态图、动态图、异构图、超图及语义变体）的能力对GNNs进行了分类，涵盖离散时间和连续时间。研究识别出当前GNN在处理复杂图动态（尤其是连续时间图和多重性感知模型）方面存在显著空白，并对架构设计与缺失的模型机会提供了结构化分析。

ABSTRACT

Graphs are ubiquitous in nature and can therefore serve as models for many practical but also theoretical problems. For this purpose, they can be defined as many different types which suitably reflect the individual contexts of the represented problem. To address cutting-edge problems based on graph data, the research field of Graph Neural Networks (GNNs) has emerged. Despite the field's youth and the speed at which new models are developed, many recent surveys have been published to keep track of them. Nevertheless, it has not yet been gathered which GNN can process what kind of graph types. In this survey, we give a detailed overview of already existing GNNs and, unlike previous surveys, categorize them according to their ability to handle different graph types and properties. We consider GNNs operating on static and dynamic graphs of different structural constitutions, with or without node or edge attributes. Moreover, we distinguish between GNN models for discrete-time or continuous-time dynamic graphs and group the models according to their architecture. We find that there are still graph types that are not or only rarely covered by existing GNN models. We point out where models are missing and give potential reasons for their absence.

研究动机与目标

• 提供现有GNN模型的全面概览，按其可处理的图类型进行分类。
• 识别当前GNN研究中对某些图类型及其属性（如动态边、节点/边属性、多重性）覆盖不足或缺失的情况。
• 分析针对不同图类型和动态特性的GNN模型的架构设计模式。
• 解释为何某些图类型缺乏GNN模型，包括数据稀缺性和模型复杂性等原因。
• 通过突出GNN开发中尚未充分探索的图类型和架构机会，为未来研究提供指导。

提出的方法

• 将图类型划分为结构性（如有向图、多重图、异构图、超图）和语义性（如环状图、二分图、正则图）类型，适用于静态图和动态图。
• 根据GNN模型对离散时间与连续时间动态以及节点/边属性变化的处理方式，对模型进行分类。
• 按架构（如消息传递、基于RNN、点过程）对模型进行分组，以分析其设计模式。
• 使用引用次数、通用性、时效性、对图属性的显式处理程度以及简洁性等标准评估模型的重要性。
• 通过每类图类型精选一到两个代表性模型，以说明当前能力水平。
• 通过定性推理分析特定图类型缺乏模型的原因，包括建模多重性和连续动态的挑战。

实验结果

研究问题

• RQ1 现有GNN模型目前支持哪些图类型及其属性？
• RQ2 在针对特定图类型的GNN中，最常见的架构设计模式是什么？
• RQ3 为何某些图类型（如连续时间动态图或多重性感知图）在当前GNN研究中代表性不足？
• RQ4 设计用于具有动态节点和边属性、删除操作及复杂拓扑结构的图的GNN时，面临哪些关键挑战？
• RQ5 在特定图属性组合（如异构且动态的图）上，是否存在可识别的GNN覆盖空白？

主要发现

• 在连续时间动态图方面，GNN模型存在显著缺失，该类别中仅识别出一个模型用于超图。
• 针对具有动态节点和边属性以及节点删除的GNN模型极为稀少，仅有单一模型（MGH）支持所有这些动态特性。
• 大多数用于离散时间图的GNN模型依赖于对每个时间快照应用静态GNN，再通过RNN进行组合，导致计算成本高昂。
• 离散时间下缺乏节点异构图的GNN模型，可能是因为已存在适用于完全异构图的更通用模型，暗示设计上存在冗余或重叠。
• 在连续时间图中建模随机点过程的复杂性，是导致相关模型稀缺的原因之一，尤其是在处理实值属性动态时。
• 针对具有边多重性的图的GNN模型有限，因为标准邻接矩阵无法编码重复边，这构成了根本性的技术挑战。