[论文解读] On Node Features for Graph Neural Networks

Chi Thang Duong, Thanh Dat Hoang+3 more|arXiv (Cornell University)|Nov 20, 2019

Advanced Graph Neural Networks参考文献 14被引用 12

一句话总结

本文研究了图神经网络（GNNs）中节点特征的作用，并提出了新颖的特征初始化技术，以使GNNs能够在无属性（无特征）图中有效学习表征。通过证明当节点特征与标签强相关时，GNNs性能最佳，作者引入了人工特征初始化方法，其性能可与真实特征相媲美，从而使得GNNs在以往不可行的场景中得以应用。

ABSTRACT

Graph neural network (GNN) is a deep model for graph representation learning. One advantage of graph neural network is its ability to incorporate node features into the learning process. However, this prevents graph neural network from being applied into featureless graphs. In this paper, we first analyze the effects of node features on the performance of graph neural network. We show that GNNs work well if there is a strong correlation between node features and node labels. Based on these results, we propose new feature initialization methods that allows to apply graph neural network to non-attributed graphs. Our experimental results show that the artificial features are highly competitive with real features.

研究动机与目标

• 分析节点特征对GNN性能的影响，特别是节点特征与节点标签之间的相关性。
• 解决GNNs在无属性图中无节点特征可用时的局限性。
• 开发新的特征初始化方法，以实现在无特征图上的有效GNN训练。
• 评估人工初始化的特征是否能与真实节点特征在GNN中达到相当的性能。

提出的方法

• 作者将节点特征与节点标签之间的相关性分析为影响GNN性能的关键因素。
• 他们提出了新的特征初始化策略，基于图结构和标签分布向节点特征中注入信息。
• 该方法利用标签感知模式，创建模仿有信息量的真实特征的人工特征。
• 通过生成反映结构和标签信息的初始节点特征，将该方法应用于无属性图。
• 使用标准GNN架构（如GCN和GAT）在基准数据集上评估该方法。
• 通过与真实特征和随机初始化进行性能对比，验证其有效性。

实验结果

研究问题

• RQ1 节点特征与节点标签之间的相关性如何影响GNN性能？
• RQ2 能否设计出人工节点特征，以有效替代GNN中的真实特征？
• RQ3 特征初始化策略对无属性图中GNN性能有何影响？
• RQ4 人工特征与真实特征在下游分类准确率方面有何比较？
• RQ5 GNNs能否通过所提出的初始化方法在无特征图上实现具有竞争力的性能？

主要发现

• 当节点特征与节点标签强相关时，GNNs的性能显著提升。
• 反映标签和结构信息的人工初始化特征在下游任务中表现可与真实特征相媲美。
• 所提出的初始化方法使GNNs能够有效学习在原始无特征存在的无属性图中的表征。
• 在多个基准数据集上，使用人工特征的GNN性能与使用真实特征的性能相当。
• 随机初始化性能较差，凸显了有信息量的特征初始化的重要性。
• 该方法表明，只要人工特征被恰当地初始化以反映标签和结构模式，节点特征对GNNs并非绝对必要。