[论文解读] MagNet: A Magnetic Neural Network for Directed Graphs.

Xitong Zhang, Nathan Brugnone+2 more|arXiv (Cornell University)|Feb 22, 2021

Advanced Graph Neural Networks参考文献 28被引用 6

一句话总结

MagNet 是一种用于有向图的谱图神经网络，利用磁 Laplacian 矩阵——一种编码了大小（无向结构）和相位（方向性）的复 Hermitian 矩阵——通过电荷参数捕捉有向环。在多种有向图数据集上的节点分类和链接预测任务中，其性能优于现有的谱方法和空间 GNN。

ABSTRACT

The prevalence of graph-based data has spurred the rapid development of graph neural networks (GNNs) and related machine learning algorithms. Yet, despite the many data sets naturally modeled as directed graphs, including citation, website, and traffic networks, the vast majority of this research focuses on undirected graphs. In this paper, we propose MagNet, a spectral GNN for directed graphs based on a complex Hermitian matrix known as the magnetic Laplacian. This matrix encodes undirected geometric structure in the magnitude of its entries and directional information in the phase of its entries. A charge parameter attunes spectral information to variation among directed cycles. We show that MagNet's performance exceeds other spectral GNNs on directed graph node classification and link prediction tasks for a variety of datasets and exceeds commonly used spatial GNNs on a majority of such. The underlying principles of MagNet are such that it can be adapted to other spectral GNN architectures.

研究动机与目标

• 为解决图神经网络研究中的不平衡问题，即尽管有向图数据（如引用网络和交通网络）普遍存在，但研究仍主要集中在无向图上。
• 开发一种谱 GNN 架构，有效捕捉有向图中的方向信息，而标准谱方法无法建模此类信息。
• 引入一个电荷参数，调节谱学习对有向环变化的响应，提升有向图任务的表达能力。
• 证明磁 Laplacian 在节点分类和链接预测任务中相比现有谱方法和空间 GNN 具有更优性能。
• 提供一种可泛化的框架，可适配至其他谱 GNN 架构，用于有向图学习。

提出的方法

• 该方法引入磁 Laplacian，一种复 Hermitian 矩阵，其元素同时编码连接的大小（无向结构）和边的相位（方向性）。
• 磁 Laplacian 元素的相位编码了方向信息，使模型能够区分有向图中的正向边与反向边。
• 引入电荷参数以调节谱信息，使模型对有向环的变化保持敏感，增强对环结构的表征学习能力。
• MagNet 通过磁 Laplacian 的特征分解执行谱卷积，利用复数域中的谱滤波学习节点表征。
• 该架构设计为与现有谱 GNN 框架兼容，支持模块化集成至更广泛的 GNN 流程中。
• 模型在有向图数据集上通过标准优化技术端到端训练，用于节点分类和链接预测任务。

实验结果

研究问题

• RQ1 能否通过复 Hermitian 矩阵中的相位信息编码方向性，使谱 GNN 有效建模有向图？
• RQ2 引入可调节谱响应以适应有向环变化的电荷参数，对有向图任务的模型性能有何影响？
• RQ3 MagNet 在标准有向图基准数据集上的节点分类和链接预测任务中是否优于现有谱方法和空间 GNN？
• RQ4 磁 Laplacian 框架在多大程度上可泛化并适配至其他谱 GNN 架构？

主要发现

• MagNet 在多个有向图数据集的节点分类任务中达到最先进性能，超越了现有的谱方法和空间 GNN 基线模型。
• 在链接预测任务中，MagNet 的性能超过其他谱 GNN，且优于大多数常用的基于空间的 GNN。
• MagNet 中的电荷参数增强了对有向环结构的敏感性，从而提升了对循环图模式的表征学习能力。
• 使用磁 Laplacian 使 MagNet 能够同时捕捉几何结构和方向流动，从而生成更具表达力和准确性的节点嵌入。
• 该框架具有可泛化性，可适配至其他谱 GNN 架构，表明其在所提模型之外也具有广泛适用性。