[论文解读] MSGNN: A Spectral Graph Neural Network Based on a Novel Magnetic Signed Laplacian

Yixuan He, Michael Permultter+2 more|arXiv (Cornell University)|Sep 1, 2022

Advanced Graph Neural Networks被引用 6

一句话总结

该论文提出MSGNN，一种基于新型磁性符号拉普拉斯矩阵的谱图神经网络，统一了符号图与有向图结构。通过利用该埃尔米特矩阵、半正定拉普拉斯矩阵的特征分解，MSGNN在涉及边符号与方向性的多样化任务中实现了节点聚类与链接预测的最先进性能，涵盖基于金融时间序列的新数据集及一个合成的有向符号随机块模型。

ABSTRACT

Signed and directed networks are ubiquitous in real-world applications. However, there has been relatively little work proposing spectral graph neural networks (GNNs) for such networks. Here we introduce a signed directed Laplacian matrix, which we call the magnetic signed Laplacian, as a natural generalization of both the signed Laplacian on signed graphs and the magnetic Laplacian on directed graphs. We then use this matrix to construct a novel efficient spectral GNN architecture and conduct extensive experiments on both node clustering and link prediction tasks. In these experiments, we consider tasks related to signed information, tasks related to directional information, and tasks related to both signed and directional information. We demonstrate that our proposed spectral GNN is effective for incorporating both signed and directional information, and attains leading performance on a wide range of data sets. Additionally, we provide a novel synthetic network model, which we refer to as the Signed Directed Stochastic Block Model, and a number of novel real-world data sets based on lead-lag relationships in financial time series.

研究动机与目标

• 为解决在社交网络、金融时间序列与影响力建模等实际应用中常见的符号图与有向图缺乏谱图神经网络的问题。
• 将有向图的磁性拉普拉斯矩阵与符号图的符号拉普拉斯矩阵统一于单一矩阵框架中，以同时捕捉边的符号与方向性。
• 设计一种高效的谱图神经网络架构MSGNN，能够同时学习符号与方向信息。
• 在涵盖联合符号与方向性推断的多种任务上评估MSGNN，使用合成与真实世界数据集。
• 提出一种新的合成模型——有向符号随机块模型（SDSBM），并构建基于金融领先-滞后关系的新真实世界数据集。

提出的方法

• 提出一种新型磁性符号拉普拉斯矩阵，该矩阵广义化了符号拉普拉斯与磁性拉普拉斯，确保其为埃尔米特矩阵且半正定。
• 定义该磁性符号拉普拉斯的归一化版本，其特征值范围被限定在[0, 2]之间，从而支持谱图神经网络的稳定谱分解。
• 构建MSGNN作为谱图神经网络，基于归一化磁性符号拉普拉斯的特征分解，并在谱域中引入可学习滤波器。
• 通过拉普拉斯特征值的多项式逼近实现可学习的谱滤波，从而在谱空间中实现高效的图消息传递。
• 采用交叉熵与对比学习目标，端到端训练MSGNN以完成节点聚类与链接预测任务。
• 将模型与可学习读出层集成，以生成适用于下游任务的节点级表征。

实验结果

研究问题

• RQ1 统一的谱框架能否有效建模图结构数据中的边符号与方向性？
• RQ2 与现有方法相比，MSGNN在需要联合推断边符号与方向性的链接预测任务中表现如何？
• RQ3 所提出的磁性符号拉普拉斯在多大程度上推广了现有符号图与有向图的拉普拉斯矩阵？
• RQ4 MSGNN在包括合成数据与真实世界金融时间序列网络在内的多样化数据分布下表现如何？
• RQ5 所提出的有向符号随机块模型（SDSBM）能否作为评估图神经网络在符号与有向图上性能的现实基准？

主要发现

• MSGNN在涉及符号与方向信息的节点聚类与链接预测任务中实现了最先进性能，在多个基准测试中优于现有模型。
• 在2020年金融时间序列数据集上，MSGNN在链接预测（SP任务）中达到92.3% ± 0.1的准确率，显著优于基线模型。
• 在五社区链接预测任务中，MSGNN在DP任务中达到67.8% ± 0.2的准确率，表明其在复杂且噪声较大的网络中具备强大泛化能力。
• 所提出的磁性符号拉普拉斯在特定情况下可退化为标准符号拉普拉斯与磁性拉普拉斯，证实其理论一致性。
• 新提出的SDSBM模型使GNN在符号与有向图上的评估实现可控化，合成数据表明MSGNN性能持续提升。
• MSGNN在真实世界金融数据集上表现出卓越的鲁棒性与泛化能力，其中领先-滞后关系编码了方向性与符号性交互。