[论文解读] edGNN: a Simple and Powerful GNN for Directed Labeled Graphs

Guillaume Jaume, An-phi Nguyen+3 more|arXiv (Cornell University)|Apr 18, 2019

Advanced Graph Neural Networks参考文献 25被引用 11

一句话总结

该论文提出edGNN，一种适用于有向带标签图的简单而强大的图神经网络（GNN），其表达能力与图同构性的Weisfeiler–Lehman（WL）算法相当。该模型通过消息传递框架同时利用节点和边标签，理论上证明其可区分几乎所有有向带标签图，实证结果表明其在节点分类和图分类基准测试中表现达到最先进水平。

ABSTRACT

The ability of a graph neural network (GNN) to leverage both the graph topology and graph labels is fundamental to building discriminative node and graph embeddings. Building on previous work, we theoretically show that edGNN, our model for directed labeled graphs, is as powerful as the Weisfeiler-Lehman algorithm for graph isomorphism. Our experiments support our theoretical findings, confirming that graph neural networks can be used effectively for inference problems on directed graphs with both node and edge labels. Code available at https://github.com/guillaumejaume/edGNN.

研究动机与目标

• 将消息传递GNN的理论表达能力扩展至同时包含节点和边标签的有向带标签图。
• 正式建立edGNN在有向带标签图背景下，其表达能力与一维Weisfeiler–Lehman（WL）算法在图同构性问题上的能力相当。
• 通过实证验证，理论上的表达能力可转化为在真实世界节点和图分类任务中的优异性能。
• 提供一种理论基础坚实、同时结构简单的GNN架构，能够有效捕捉有向图中的结构与标签信息。

提出的方法

• edGNN采用消息传递框架，通过邻接节点特征的迭代更新来更新节点表示。
• 模型为入边和出边分别使用可学习权重，从而能够区分有向图中的方向性。
• 节点表示通过邻近节点特征的可微分聚合，再经多层感知机进行更新，确保具备强大的特征学习能力。
• 边标签被编码为初始边嵌入，并在训练过程中保持固定，以保留标签信息。
• 图级表示通过连接所有层中聚合后的节点表示构建，遵循Xu等人（2019）的方法。
• 模型使用标准交叉熵损失，并配合最终的线性分类器进行节点和图分类任务的训练。

实验结果

研究问题

• RQ1 有向带标签图的GNN能否实现与Weisfeiler–Lehman（WL）算法在图同构性问题上相当的表达能力？
• RQ2 所提出的edGNN模型是否在保持理论表达能力的同时，也具备实际中的简洁性与可训练性？
• RQ3 edGNN在基准数据集上的有向带标签图节点和图分类任务中，相较于最先进模型表现如何？
• RQ4 边标签和有向拓扑结构在多大程度上促进了GNN性能的提升？

主要发现

• 在MUTAG图分类数据集上，edGNN的测试准确率达到88.8%，超过此前最先进模型R-GCN的81.5%。
• 在AIFB节点分类数据集上，edGNN的最大准确率达到97.2%，优于R-GCN（95.8%）和RDF2Vec（88.9%）。
• edGNN在MUTAG数据集上十次运行的平均性能为86.9%，表现出一致且强大的泛化能力。
• 在PTC FR数据集上，edGNN达到68.0%的准确率，优于R-GCN（65.8%），并达到WLSP核的最佳结果。
• 理论分析证实，edGNN在有向带标签图上的表达能力与WL算法相当，即能够区分几乎所有非同构图。
• 实证结果支持理论结论，表明edGNN能有效利用图的拓扑结构与标签信息，从而提升有向图上的推理性能。