[论文解读] Graph Partition Neural Networks for Semi-Supervised Classification

Renjie Liao, Marc Brockschmidt+4 more|arXiv (Cornell University)|Mar 16, 2018

Advanced Graph Neural Networks参考文献 38被引用 45

一句话总结

Graph Partition Neural Networks (GPNN) 通过将大图划分为子图，并交替局部（子图内）和全局（跨子图）传播，扩展 GNNs，在半监督节点分类任务上实现具有竞争力的结果，且传播步数可能更少。GPNNs 还引入快速划分方法，并能扩展到非常大的图。

ABSTRACT

We present graph partition neural networks (GPNN), an extension of graph neural networks (GNNs) able to handle extremely large graphs. GPNNs alternate between locally propagating information between nodes in small subgraphs and globally propagating information between the subgraphs. To efficiently partition graphs, we experiment with several partitioning algorithms and also propose a novel variant for fast processing of large scale graphs. We extensively test our model on a variety of semi-supervised node classification tasks. Experimental results indicate that GPNNs are either superior or comparable to state-of-the-art methods on a wide variety of datasets for graph-based semi-supervised classification. We also show that GPNNs can achieve similar performance as standard GNNs with fewer propagation steps.

研究动机与目标

• 以图神经网络为手段激发并解决在极大规模图上学习的挑战。
• 引入一种基于划分的传播调度，结合子图内信息流和子图之间的信息流。
• 开发适用于大型图的快速、可扩展的图划分方法。
• 在多样的半监督节点分类基准上评估 GPNN，并与最先进的方法进行比较。

提出的方法

• 将输入图划分为 K 个不相交的子图以及一个割集。
• 在并行的子图内同步传播和跨割集的子图间传播之间交替。
• 使用 Graph Partition Propagation Schedule (Alg. 1)，其子图内步骤为 TS，子图间步骤为 TC。
• 提出一种快速的 Modified Multi-seed Flood Fill 划分算法 (Alg. 2)，用于可扩展的图划分。
• 通过 embedding-input 或 feature-input 表示来处理初始节点标签。
• 可选地将输入特征与学习到的最终嵌入拼接以提高性能。

实验结果

研究问题

• RQ1 在不同规模的图上，GPNN 能否在半监督节点分类任务中达到与最先进方法相竞争的性能？
• RQ2 不同的图划分策略（谱划分 vs. 多种子洪泛填充）如何影响大规模图的准确性和运行时间？
• RQ3 基于划分的传播调度在准确性和计算/内存效率方面与全同步和顺序调度相比如何？
• RQ4 利用所提出的划分方法，将 GNNs 扩展到极大规模的图上，在可接受的训练时间和内存条件下是否可行？

主要发现

• GPNN 在引文网络和知识图谱（Citeseer、Cora、Pubmed、NELL）上与最先进方法并驾齐驱或优于它们。
• 在 DIEL 远程监督任务中，GPNN 获得了在比较方法中最高的 recall@k（52.11）。
• 修改后的多种子洪泛填充划分方法在大规模图上比谱划分更快且可扩展，同时保持有竞争力的准确性。
• GPNN 可以在较少的传播步数下达到标准 GNN 的性能，从而在大型图上实现效率提升。