[论文解读] Graph Node-Feature Convolution for Representation Learning

Li Zhang, Heda Song+2 more|arXiv (Cornell University)|Nov 30, 2018

Advanced Graph Neural Networks参考文献 24被引用 7

一句话总结

该论文提出NFC-GCN，一种新型图神经网络，通过在将节点特征图采样后送入标准GCN之前应用二维卷积，增强节点表示学习。通过将特征与邻居视为二维网格并利用卷积学习自适应权重，NFC-GCN在半监督节点分类任务中表现更优，优于GCN和GAT，收敛更快，并支持更深的网络结构。

ABSTRACT

Graph convolutional network (GCN) is an emerging neural network approach. It learns new representation of a node by aggregating feature vectors of all neighbors in the aggregation process without considering whether the neighbors or features are useful or not. Recent methods have improved solutions by sampling a fixed size set of neighbors, or assigning different weights to different neighbors in the aggregation process, but features within a feature vector are still treated equally in the aggregation process. In this paper, we introduce a new convolution operation on regular size feature maps constructed from features of a fixed node bandwidth via sampling to get the first-level node representation, which is then passed to a standard GCN to learn the second-level node representation. Experiments show that our method outperforms competing methods in semi-supervised node classification tasks. Furthermore, our method opens new doors for exploring new GCN architectures, particularly deeper GCN models.

研究动机与目标

• 为解决GCN在聚合过程中对所有邻居和特征同等对待的局限性。
• 通过在结构化的节点-特征图上启用卷积操作，提升表示学习能力。
• 通过引入可学习、可微的节点-特征卷积层，探索更深的GCN架构。
• 与现有GCN变体（如GCN、GAT和GraphSAGE）相比，实现更优性能和更快收敛。

提出的方法

• 对每个节点应用邻居采样，构建固定大小、规则的邻域，将中心节点及其采样邻居形成二维特征图。
• 节点-特征卷积（NFC）层对二维特征图应用一维或二维卷积滤波器，以在特征和邻居之间学习自适应权重。
• NFC层的输出生成一级节点表示，捕捉节点特征与邻域之间的局部结构模式。
• 该一级表示随后输入标准GCN层，生成二级、更精细的节点表示，用于下游任务。
• 整个模型端到端训练，NFC层中的滤波器权重与GCN参数联合学习。
• 该架构支持堆叠多个NFC层，实现更深的模型，模拟图上的CNN式学习。

实验结果

研究问题

• RQ1 在节点-特征图上应用二维卷积是否能超越标准GCN聚合方式，提升节点表示学习？
• RQ2 通过卷积学习自适应特征权重是否优于等权重聚合或基于注意力的邻居加权方法？
• RQ3 在半监督节点分类中，NFC-GCN是否能实现比GCN和GAT更快的收敛速度和更好的泛化性能？
• RQ4 通过NFC层构建更深的模型在多大程度上可行？其性能是否更稳定？
• RQ5 一级NFC表示本身是否能在不依赖后续GCN层的情况下达到具有竞争力的性能？

主要发现

• NFC-GCN在Cora、Citeseer和PubMed引文网络上达到最先进性能，测试准确率分别为88.30%、78.52%和88.23%，优于GCN和GAT。
• 仅使用一级NFC表示在Cora数据集上达到86.58%的准确率，表明其具备强大的内在表征能力。
• NFC-GCN在约50个训练周期内收敛，显著快于GCN和GAT（约需100个周期）。
• 模型在准确率和损失方面的训练曲线更稳定，表明优化行为更优。
• 更深的NFC-GCN模型（最多5层GCN）相比标准GCN表现出更小的性能波动，表明鲁棒性更强。
• 消融实验确认NFC层贡献显著，当GCN层数从1层增至5层时，测试准确率提升1.72%至3.21%。