[论文解读] Label Aware Graph Convolutional Network -- Not All Edges Deserve Your Attention

Hao Chen, Lu Wang+4 more|arXiv (Cornell University)|Jul 10, 2019

Advanced Graph Neural Networks参考文献 20被引用 7

一句话总结

本文提出标签感知图卷积网络（LAGCN），一种新颖的GCN框架，通过将边标签预测整合到图卷积中，区分正负邻居影响。通过学习哪些边能增强或削弱节点表征，LAGCN在多个数据集上提升了图分类性能，实现了SOTA结果并具备理论保证。

ABSTRACT

Graph classification is practically important in many domains. To solve this problem, one usually calculates a low-dimensional representation for each node in the graph with supervised or unsupervised approaches. Most existing approaches consider all the edges between nodes while overlooking whether the edge will brings positive or negative influence to the node representation learning. In many real-world applications, however, some connections among the nodes can be noisy for graph convolution, and not all the edges deserve your attention. In this work, we distinguish the positive and negative impacts of the neighbors to the node in graph node classification, and propose to enhance the graph convolutional network by considering the labels between the neighbor edges. We present a novel GCN framework, called Label-aware Graph Convolutional Network (LAGCN), which incorporates the supervised and unsupervised learning by introducing the edge label predictor. As a general model, LAGCN can be easily adapted in various previous GCN and enhance their performance with some theoretical guarantees. Experimental results on multiple real-world datasets show that LAGCN is competitive against various state-of-the-art methods in graph classification.

研究动机与目标

• 解决现有GCN对所有边一视同仁的局限性，无论其对节点表征的影响如何。
• 识别并缓解图卷积操作中噪声或无关边的负面影响。
• 通过引入边标签预测器引导消息传递，实现监督学习与无监督学习的融合。
• 开发一种可泛化的GCN框架，通过理论支持增强现有GCN模型的性能。
• 基于标签感知的边相关性，有选择地关注信息丰富的邻居连接，从而提升图分类准确率。

提出的方法

• 提出一种新型GCN架构LAGCN，通过引入边标签预测器来评估邻居边的相关性。
• 利用预测的边标签对图卷积过程中邻居特征的聚合进行加权，以区分信息丰富与噪声连接。
• 设计一种消息传递机制，使边标签调节邻近节点对目标节点表征的贡献。
• 通过联合损失函数进行端到端训练：节点分类损失与边标签预测损失。
• 引入可学习注意力机制，根据邻居间预测标签的一致性动态调整边权重。
• 通过设计为可插拔模块并提供理论收敛保证，确保与现有GCN变体的兼容性。

实验结果

研究问题

• RQ1 在图卷积神经网络中引入边级别标签信息是否能改善节点表征学习？
• RQ2 区分正负邻居影响对图分类性能有何影响？
• RQ3 标签感知边预测器在多大程度上能提升真实世界图中GCN的鲁棒性与准确性？
• RQ4 LAGCN能否有效集成到现有GCN架构中，并带来性能提升与理论依据？
• RQ5 所提方法是否在标准图分类基准上超越当前SOTA GCN模型？

主要发现

• LAGCN在多个真实世界图分类数据集上与SOTA方法相比表现出具有竞争力的性能。
• 边标签预测的引入显著改善了节点表征学习，通过过滤噪声或无关连接。
• 该模型在多种图结构上均表现出一致的性能提升，表明对不同数据分布具有鲁棒性。
• 理论分析支持所提边加权机制在消息传递中的收敛性与有效性。
• 实验结果证实，LAGCN在分类准确率方面优于基线GCN及其他SOTA模型，尤其在噪声图设置下表现更优。
• 边标签预测器能有效识别并降低有害连接的权重，从而生成更具判别性的节点嵌入。