[论文解读] Graph Learning with 1D Convolutions on Random Walks.

Jan Toenshoff, Martin Ritzert+2 more|arXiv (Cornell University)|Feb 17, 2021

Advanced Graph Neural Networks参考文献 52被引用 5

一句话总结

CRaWl 提出了一种新型图神经网络，通过在随机游走生成的子图上使用一维卷积，与传统的消息传递图神经网络不同。它通过在高效且可扩展的架构中结合基序计数与随机游走采样，在图分类和回归基准测试中实现了最先进性能。

ABSTRACT

We propose CRaWl (CNNs for Random Walks), a novel neural network architecture for graph learning. It is based on processing sequences of small subgraphs induced by random walks with standard 1D CNNs. Thus, CRaWl is fundamentally different from typical message passing graph neural network architectures. It is inspired by techniques counting small subgraphs, such as the graphlet kernel and motif counting, and combines them with random walk based techniques in a highly efficient and scalable neural architecture. We demonstrate empirically that CRaWl matches or outperforms state-of-the-art GNN architectures across a multitude of benchmark datasets for classification and regression on graphs.

研究动机与目标

• 开发一种避免使用传统消息传递机制的新图神经网络架构。
• 利用随机游走和子图基序以改进图表示学习。
• 将一维卷积的效率与子图枚举技术相结合，实现可扩展的图学习。
• 在标准图基准数据集上实现具有竞争力或更优的性能。

提出的方法

• 该方法通过在输入图上执行随机游走生成小型子图。
• 每个子图被处理为序列，并输入一维卷积神经网络（CNN）。
• 一维CNN从每个子图的节点和边序列中学习局部结构模式。
• 该架构可端到端训练，并针对大规模图设计了可扩展性。
• 它整合了图小构件核与基序计数的原理，以在学习表示中强调结构基序。

实验结果

研究问题

• RQ1 在无消息传递的情况下，对随机游走诱导的子图使用一维卷积能否有效学习图表示？
• RQ2 CRaWl在标准图基准数据集上的性能与最先进图神经网络相比如何？
• RQ3 将基序计数与随机游走采样相结合，在多大程度上能提升图学习中的泛化能力？

主要发现

• CRaWl在多个图分类和回归基准测试中达到与最先进图神经网络架构相当或更优的性能。
• 由于在一维卷积与子图序列的高效结合，该模型展现出强大的可扩展性。
• 通过利用随机游走和基于基序的子图，CRaWl捕捉到了对下游任务有效的结构模式。
• 该架构在多种不同的图数据集上表现出具有竞争力的结果，表明其具有广泛适用性。