[论文解读] A Survey on Graph Classification and Link Prediction based on GNN

Xingyu Liu, Juan Chen+1 more|arXiv (Cornell University)|Jul 3, 2023

Advanced Graph Neural Networks被引用 7

一句话总结

本综述全面回顾了图卷积神经网络（GNNs）在图分类和链接预测中的应用，重点聚焦于GCN、GAT和基于自编码器的模型。文章详细阐述了图卷积与池化算子如何实现对非欧几里得数据的有效学习，在Cora和CiteSeer等引文网络数据集上取得了最先进性能，F1分数最高达0.7508，MCC达0.7273，采用GNN-INCM模型。

ABSTRACT

Traditional convolutional neural networks are limited to handling Euclidean space data, overlooking the vast realm of real-life scenarios represented as graph data, including transportation networks, social networks, and reference networks. The pivotal step in transferring convolutional neural networks to graph data analysis and processing lies in the construction of graph convolutional operators and graph pooling operators. This comprehensive review article delves into the world of graph convolutional neural networks. Firstly, it elaborates on the fundamentals of graph convolutional neural networks. Subsequently, it elucidates the graph neural network models based on attention mechanisms and autoencoders, summarizing their application in node classification, graph classification, and link prediction along with the associated datasets.

研究动机与目标

• 提供图卷积神经网络在图分类和链接预测任务中应用的系统性综述。
• 分析图卷积与池化算子在将深度学习适配至非欧几里得图数据中的作用。
• 评估基于注意力机制和自编码器的GNN模型在基准引文网络数据集上的性能表现。
• 突出GNNs相较于传统方法（如DeepWalk和Planetoid）在节点分类准确率上的优越性。
• 展示在真实世界数据集上的实证结果，证明在图分类和链接预测任务中均达到最先进性能。

提出的方法

• 本文回顾了图卷积算子和图池化算子作为GNN的基础组件，使其能够处理非欧几里得数据。
• 研究了GAT中的注意力机制，该机制通过动态加权邻居特征来提升节点表征学习效果。
• 探讨了基于自编码器的GNN，包括GC-MC和ARGAs，将矩阵补全和图嵌入问题建模为链接预测任务。
• 采用图自编码框架，编码器使用图卷积，解码器使用双线性函数，实现可微的信息传递。
• 引入GNN-INCM模型，该模型使用GraphSAGE模块，并通过拼接节点与邻居表征来提升分类性能。
• 应用数据增强策略，引入合成节点以平衡类别分布，训练出无偏见的GNN分类器。

实验结果

研究问题

• RQ1 图卷积算子如何实现对非欧几里得图数据的有效表征学习？
• RQ2 GAT中的注意力机制相较于标准GCN在节点分类任务中具有哪些优势？
• RQ3 基于自编码器的GNN如何提升链接预测与矩阵补全任务的性能？
• RQ4 数据增强与类别平衡对在类别不平衡的引文网络中GNN分类器性能有何影响？
• RQ5 GNN模型相较于传统方法（如Planetoid和DeepWalk）在F1和MCC分数上的表现如何？

主要发现

• GNN-INCM模型在Cora数据集上取得了0.7508 ± 0.0045的最高F1分数和0.7273 ± 0.0051的MCC，优于GCN和GAT。
• 在CiteSeer数据集上，GNN-INCM实现了0.6490 ± 0.0048的F1分数和0.6274 ± 0.0036的MCC，表现出稳健性能。
• GAT在Cora数据集上实现了0.7134 ± 0.072的F1分数和0.6379 ± 0.0061的MCC，相较于基线模型表现优异。
• DR-GCN模型在Cora数据集上实现了0.7247 ± 0.0057的F1分数和0.6588 ± 0.0065的MCC，表明残差连接在图学习中的有效性。
• 在人类轨迹预测的链接预测任务中，Social-STGCNN在ETH数据集上实现了0.64的ADE和1.11的FDE，优于线性模型和S-LSTM基线。
• 采用合成节点增强策略有效平衡了类别分布，使无偏见的GNN分类器得以训练，提升了在类别不平衡数据集上的泛化能力。