[论文解读] A Network Science perspective of Graph Convolutional Networks: A survey

Mingshan Jia, Bogdan Gabryś+1 more|arXiv (Cornell University)|Jan 12, 2023

Complex Network Analysis Techniques被引用 5

一句话总结

本文通过引入一种新颖的分类体系，从网络科学的视角对图卷积网络（GCNs）进行了系统分析，该分类体系基于逐层消息聚合范围、消息内容以及整体学习范围对GCNs进行分类。该研究将传统的网络科学度量方法——如中心性、聚类系数和图模式（motifs）——与GCNs相连接，揭示了结构洞见如何提升GCN的设计、可解释性及模型选择能力。

ABSTRACT

The mining and exploitation of graph structural information have been the focal points in the study of complex networks. Traditional structural measures in Network Science focus on the analysis and modelling of complex networks from the perspective of network structure, such as the centrality measures, the clustering coefficient, and motifs and graphlets, and they have become basic tools for studying and understanding graphs. In comparison, graph neural networks, especially graph convolutional networks (GCNs), are particularly effective at integrating node features into graph structures via neighbourhood aggregation and message passing, and have been shown to significantly improve the performances in a variety of learning tasks. These two classes of methods are, however, typically treated separately with limited references to each other. In this work, aiming to establish relationships between them, we provide a network science perspective of GCNs. Our novel taxonomy classifies GCNs from three structural information angles, i.e., the layer-wise message aggregation scope, the message content, and the overall learning scope. Moreover, as a prerequisite for reviewing GCNs via a network science perspective, we also summarise traditional structural measures and propose a new taxonomy for them. Finally and most importantly, we draw connections between traditional structural approaches and graph convolutional networks, and discuss potential directions for future research.

研究动机与目标

• 弥合传统网络科学方法与图卷积网络（GCNs）之间的鸿沟，后者通常被视为两个独立的领域。
• 为传统网络科学中的结构度量开发一种新分类体系，统一从中心性、图模式（motifs）到图子结构（graphlets）等概念的结构视角。
• 通过三种结构视角对GCNs进行分类：消息聚合范围、消息内容以及整体学习范围。
• 探讨传统结构度量如何指导GCN设计、提升可解释性并辅助模型选择。
• 识别并提出网络科学与GCNs交叉领域中的未来研究方向，包括边特征整合与可解释性增强。

提出的方法

• 基于结构信息，提出一种统一的传统网络科学度量分类体系，将中心性、聚类系数、图模式（motifs）和图子结构（graphlets）等概念整合进同一框架。
• 提出对GCNs的三维分类体系：(1) 层级消息聚合范围（如局部 vs. 全局），(2) 消息内容（如节点特征、边属性、结构模式），以及(3) 整体学习范围（如归纳式 vs. 归纳式学习）。
• 从网络科学的视角分析GCNs所利用的结构信息，识别不同GCN架构如何利用拓扑特征。
• 建立传统结构度量与GCN机制之间的概念与功能联系，例如图模式频率或聚类系数可能如何影响GCN性能。
• 建议将边级别的结构度量（如边聚类系数和局部路径指数）整合进GCN的消息传递机制，以增强特征表示能力。
• 建议将传统结构度量用作模型选择与可解释性的诊断工具，例如根据图的拓扑特性（如三角形丰富 vs. 四边形丰富网络）选择合适的GCN架构。

Figure 1. Taxonomy of graph convolutional networks from structural perspectives.

实验结果

研究问题

• RQ1 如何系统地对传统网络科学度量进行分类，并在统一的结构视角下实现整合？
• RQ2 不同GCN架构在多大程度上利用图的结构信息，这种利用方式能否被正式分类？
• RQ3 传统结构度量（如中心性、图模式）与GCN消息传递机制之间存在哪些功能与概念上的联系？
• RQ4 传统结构度量如何指导特定图类型或任务下的GCN模型选择与设计？
• RQ5 边级别的结构特征在提升GCN性能与可解释性方面可能发挥何种作用？

主要发现

• 本文建立了一个全面的传统网络科学度量分类体系，将中心性、聚类系数、图模式（motifs）和图子结构（graphlets）等多样化概念统一于同一结构框架之下。
• GCNs沿三个维度系统分类：聚合范围（局部/全局）、消息内容（节点/边/结构特征）以及学习范围（归纳式/归纳式），揭示了不同架构间的设计模式。
• 传统结构度量如聚类系数和图模式频率被证明与GCN行为直接相关，表明GCNs隐式学习并利用了这些模式。
• 将边级别的结构度量（如边聚类系数和局部路径指数）整合进GCN消息传递机制，被识别为提升模型表达能力与准确性的有前景方向。
• 结构度量可作为模型选择的诊断工具，特定GCN架构更适合具有特定拓扑特性的图（如三角形丰富的图 vs. 四边形丰富的图）。
• 本文指出GCN的可解释性与可解释性是关键挑战，提出传统结构度量可为解释为何某些GCN在特定图类型上表现更优提供洞见。

Figure 2. Structural measures on graphs.