[論文レビュー] MSGNN: A Spectral Graph Neural Network Based on a Novel Magnetic Signed Laplacian

Yixuan He, Michael Permultter+2 more|arXiv (Cornell University)|Sep 1, 2022

Advanced Graph Neural Networks被引用数 6

ひとこと要約

本稿では、符号付きおよび有向グラフ構造を統合する新しい磁気符号付きラプラシアン行列に基づく、MSGNNと呼ばれる新しいスペクトル的グラフニューラルネットワークを提案する。このエルミート的かつ半正定値のラプラシアンの固有値分解を活用することで、新規の金融時系列ベースのデータセットや、合成的な符号付き有向スチュアティックブロックモデル（SDSBM）も含む、エッジの符号性と方向性を併せ持つ多様なタスクにおいて、ノードクラスタリングおよびリンク予測の分野で最先端の性能を達成する。

ABSTRACT

Signed and directed networks are ubiquitous in real-world applications. However, there has been relatively little work proposing spectral graph neural networks (GNNs) for such networks. Here we introduce a signed directed Laplacian matrix, which we call the magnetic signed Laplacian, as a natural generalization of both the signed Laplacian on signed graphs and the magnetic Laplacian on directed graphs. We then use this matrix to construct a novel efficient spectral GNN architecture and conduct extensive experiments on both node clustering and link prediction tasks. In these experiments, we consider tasks related to signed information, tasks related to directional information, and tasks related to both signed and directional information. We demonstrate that our proposed spectral GNN is effective for incorporating both signed and directional information, and attains leading performance on a wide range of data sets. Additionally, we provide a novel synthetic network model, which we refer to as the Signed Directed Stochastic Block Model, and a number of novel real-world data sets based on lead-lag relationships in financial time series.

研究の動機と目的

• 社会的ネットワーク、金融時系列、影響力モデリングなど、実世界の応用で一般的に見られる符号付きおよび有向グラフのためのスペクトル的GNNの不足を解消すること。
• 有向グラフのための磁気ラプラシアンと、符号付きグラフのための符号付きラプラシアンを、エッジの符号性と方向性の両方を捉える1つの行列フレームワークに統合すること。
• 符号付きおよび方向性の両方の情報を同時に学習可能な、効率的なスペクトル的GNNアーキテクチャ、MSGNNの開発。
• 合成的および実世界のデータセットを用いて、エッジの符号性と方向性の共同推論を含む、広範なタスクにおけるMSGNNの評価。
• 新しい合成モデル、すなわち符号付き有向スチュアティックブロックモデル（SDSBM）を導入し、金融のリード・ラグ関係に基づく新規の実世界データセットを提供すること。

提案手法

• 符号付きラプラシアンと磁気ラプラシアンの両方を一般化する新しい磁気符号付きラプラシアン行列を提案し、エルミート構造と半正定値性を保証する。
• 固有値が[0, 2]に有界となるように、磁気符号付きラプラシアンの正規化版を定義し、GNNにおける安定なスペクトル分解を可能にする。
• 正規化された磁気符号付きラプラシアンの固有値分解を用いて、スペクトル的GNNであるMSGNNを構築し、スペクトル領域に学習可能なフィルタを導入する。
• ラプラシアン固有値の多項式近似を用いて学習可能なスペクトルフィルタを適用し、スペクトル空間における効率的なメッセージパッシングを実現する。
• 交差エントロピーとコントラスト学習の目的関数を用いて、ノードクラスタリングおよびリンク予測のためのエンドツーエンド学習を実施する。
• 下流タスクのためのノードレベル表現を生成するために、モデルに学習可能なリードアウト層を統合する。

実験結果

リサーチクエスチョン

• RQ1 エッジの符号性と方向性の両方を効果的にモデル化できる統一されたスペクトル的フレームワークは、グラフ構造データに有効に機能するか？
• RQ2 エッジの符号性と方向性の両方を共同で推論する必要があるリンク予測タスクにおいて、既存の手法と比較してMSGNNの性能はどの程度高いか？
• RQ3 提案された磁気符号付きラプラシアンは、符号付きおよび有向グラフの既存のラプラシアンをどの程度一般化できるか？
• RQ4 合成的および実世界の金融時系列ネットワークを含む、多様なデータ分布に対してMSGNNはどの程度頑健であるか？
• RQ5 提案された符号付き有向スチュアティックブロックモデル（SDSBM）は、符号付きおよび有向グラフにおけるGNNの評価に現実的で効果的なベンチマークとして機能するか？

主な発見

• MSGNNは、符号付きおよび方向性の両方の情報を含むノードクラスタリングおよびリンク予測タスクにおいて、複数のベンチマークで最先端の性能を達成し、既存のモデルを上回る。
• 2020年の金融時系列データセットでは、MSGNNがリンク予測（SPタスク）で92.3% ± 0.1の精度を達成し、ベースラインを顕著に上回った。
• 5コミュニティのリンク予測タスクでは、MSGNNが67.8% ± 0.2の精度（DPタスク）を達成し、複雑でノイズの多いネットワークにおいても優れた一般化性能を示した。
• 提案された磁気符号付きラプラシアンは、特別なケースにおいて標準的な符号付きラプラシアンおよび磁気ラプラシアンに簡約され、理論的整合性を確認した。
• 新規に導入されたSDSBMモデルにより、符号付きおよび有向グラフにおけるGNNの制御された評価が可能となり、合成データではMSGNNに一貫した性能向上が観察された。
• 実世界の金融データセットにおいて、MSGNNは優れた頑健性と一般化性能を示し、リード・ラグ関係が方向性および符号付き相互作用を表現していることから、その有効性が裏付けられた。