[论文解读] Directed Graph Convolutional Network

Zekun Tong, Yuxuan Liang+3 more|arXiv (Cornell University)|Apr 29, 2020

Advanced Graph Neural Networks参考文献 35被引用 65

一句话总结

DGCN 通过利用一阶和二阶邻近关系将谱基 GCN 延伸到有向图，从而在有向数据集上提高半监督节点分类的性能。

ABSTRACT

Graph Convolutional Networks (GCNs) have been widely used due to their outstanding performance in processing graph-structured data. However, the undirected graphs limit their application scope. In this paper, we extend spectral-based graph convolution to directed graphs by using first- and second-order proximity, which can not only retain the connection properties of the directed graph, but also expand the receptive field of the convolution operation. A new GCN model, called DGCN, is then designed to learn representations on the directed graph, leveraging both the first- and second-order proximity information. We empirically show the fact that GCNs working only with DGCNs can encode more useful information from graph and help achieve better performance when generalized to other models. Moreover, extensive experiments on citation networks and co-purchase datasets demonstrate the superiority of our model against the state-of-the-art methods.

研究动机与目标

• 将谱基图卷积在有向图上实现而不失去方向性。
• 引入一阶和二阶邻近关系以扩大感受野。
• 开发一种融合机制将多种基于邻近的卷积整合起来。
• 在真实有向数据集上展示效率与有效性。
• 提供时间/空间复杂度及对其他 GNN 模型的泛化洞见。

提出的方法

• 为有向图定义一阶和二阶邻近关系。
• 构建三种基于邻近的邻接表示：一阶 (A_F)、二阶入度 (A_S_in) 与二阶出度 (A_S_out)。
• 对每个邻近矩阵应用谱风格的图卷积，权重共享。
• 通过一个基于拼接的融合函数 Gamma（例如 Z = Concat(Z_F, alpha Z_S_in, beta Z_S_out)）来融合三种传播信号。
• 使用两层网络并以最终 softmax 进行半监督节点分类。
• 通过对带标签节点的交叉熵训练和全批量计算进行实验。

实验结果

研究问题

• RQ1 能否在不对称处理图的情况下有效实现有向图的谱卷积？
• RQ2 一阶和二阶邻近关系是否捕获互补信息，从而提升有向图的性能？
• RQ3 多种基于邻近的卷积融合是否比单一邻近的表示提供更好的表示？
• RQ4 在有向/引文网络与共购网络上，DGCN 相较于最先进的谱基和基于空间的 GNN 的表现如何？

主要发现

模型	Cora-Full	Cora-ML	CiteSeer	DBLP	PubMed	Amazon-Photo	Amazon-Computer
ChebNet	58.0 ±0.5	79.2 ±1.4	59.7 ±4.0	64.0 ±2.8	74.6 ±2.5	82.5 ±2.4	72.9 ±3.0
GCN	59.1 ±0.7	81.7 ±1.2	64.7 ±2.3	71.5 ±2.7	76.8 ±2.2	90.4 ±1.5	81.9 ±1.9
SGC	61.2 ±0.6	80.3 ±1.1	61.4 ±3.4	69.2 ±2.8	75.8 ±2.8	89.4 ±1.4	80.2 ±1.2
GraphSage	58.1 ±0.7	80.2 ±1.6	62.8 ±2.1	68.1 ±2.5	75.2 ±3.2	89.8 ±1.9	80.4 ±2.5
GAT	60.8 ±0.6	81.5 ±1.0	63.7 ±2.0	71.8 ±2.6	76.5 ±2.3	90.0 ±1.3	81.2 ±2.5
DGCN	60.8 ±0.6	82.0 ±1.4	65.4 ±2.3	72.5 ±2.5	76.9 ±1.9	90.8 ±1.1	82.0 ±1.7

• DGCN 在七个数据集上实现了具有竞争力的准确率，通常优于 ChebNet、GCN、SGC、GraphSage 和 GAT 等基线。
• 同时使用一阶和二阶邻近关系（DGCN 的两者）通常比仅使用一阶邻近关系带来更好的结果。
• DGCN 在有向数据集（Cora-Full、Cora-ML、CiteSeer、Amazon-Photo、Amazon-Computers）上表现强劲，并且在无向数据集（DBLP、PubMed）上仍然具有鲁棒性。
• 两层 DGCN 与融合机制相较基线具有显著提升，并在特征与标签方面表现出高效性。
• 该方法通过二阶邻近保留有向信息，同时在扩大感受野的同时避免了参数增长过多。