[論文レビュー] edGNN: a Simple and Powerful GNN for Directed Labeled Graphs

Guillaume Jaume, An-phi Nguyen+3 more|arXiv (Cornell University)|Apr 18, 2019

Advanced Graph Neural Networks参考文献 25被引用数 11

ひとこと要約

この論文は、有向ラベル付きグラフのためのシンプルでありながら強力なグラフニューラルネットワーク（GNN）edGNNを提案する。このモデルは、グラフ同型性のためのWeisfeiler–Lehman（WL）アルゴリズムと同等の表現力を達成する。モデルはメッセージパッシングフレームワークを用い、ノードおよびエッジのラベルを併用することで、理論的にほぼすべての有向ラベル付きグラフを区別できることを証明している。実験的結果では、ノード分類およびグラフ分類ベンチマークで最先端の性能を示している。

ABSTRACT

The ability of a graph neural network (GNN) to leverage both the graph topology and graph labels is fundamental to building discriminative node and graph embeddings. Building on previous work, we theoretically show that edGNN, our model for directed labeled graphs, is as powerful as the Weisfeiler-Lehman algorithm for graph isomorphism. Our experiments support our theoretical findings, confirming that graph neural networks can be used effectively for inference problems on directed graphs with both node and edge labels. Code available at https://github.com/guillaumejaume/edGNN.

研究の動機と目的

• メッセージパッシングGNNの理論的表現力を、ノードおよびエッジの両方のラベルを持つ有向ラベル付きグラフに拡張すること。
• 有向ラベル付きグラフの文脈において、edGNNが1次元Weisfeiler–Lehman（WL）アルゴリズムと同等の表現力を持つことを形式的に確立すること。
• 理論的な表現力が、現実のノードおよびグラフ分類タスクにおける優れた性能にどのように反映されるかを実験的に検証すること。
• 理論的根拠に基づいたが、シンプルなGNNアーキテクチャを提供し、有向グラフ内の構造的およびラベル情報の両方を効果的に捉えること。

提案手法

• edGNNは、ノード表現を隣接ノードの特徴を用いて反復的に更新するメッセージパッシングフレームワークを採用している。
• 入力エッジと出力エッジの両方に別々の可学習重みを用いることで、有向グラフにおける方向性の違いを区別できる。
• ノード表現は、隣接ノード特徴の微分可能な集約処理の後に、多層パーセプトロンを介して更新され、表現力のある特徴学習が保証される。
• エッジラベルは初期エッジ埋め込みに符号化され、学習中は固定されたまま維持され、ラベル情報が保持される。
• グラフレベルの表現は、Xuら（2019）に従い、全層にわたるノード表現を集約して構築される。
• ノードおよびグラフ分類のための最終線形分類器を用いた標準的な交差エントロピー損失によりモデルが訓練される。

実験結果

リサーチクエスチョン

• RQ1 有向ラベル付きグラフ向けのGNNは、グラフ同型性のためのWeisfeiler–Lehman（WL）アルゴリズムと同等の表現力を達成できるか？
• RQ2 提案されたedGNNモデルは、理論的表現力は維持しつつ、実際の学習においてもシンプルで訓練可能か？
• RQ3 ベンチマークデータセットにおける有向ラベル付きグラフのノードおよびグラフ分類タスクにおいて、edGNNは最先端モデルと比べてどのように性能を発揮するか？
• RQ4 エッジラベルおよび有向トポロジーは、GNNにおける性能向上にどの程度寄与しているか？

主な発見

• MUTAGグラフ分類データセットにおいて、edGNNは88.8%のテスト精度を達成し、以前のSOTAモデル（R-GCN）の81.5%を上回った。
• AIFBノード分類データセットでは、edGNNは最大97.2%の精度を達成し、R-GCN（95.8%）およびRDF2Vec（88.9%）を上回った。
• MUTAGにおける10回のランの平均性能は86.9%であり、一貫性があり強力な一般化性能を示した。
• PTC FRデータセットでは68.0%の精度を達成し、R-GCN（65.8%）を上回り、WLSPカーネルの最良結果と同等となった。
• 理論的分析により、edGNNが有向ラベル付きグラフにおいてWLアルゴリズムと同等の表現力を持つことが確認された。これは、非同型グラフのほとんどを区別できることを意味する。
• 実験的結果は理論的主張を裏付け、edGNNが有向グラフにおける推論性能向上に、構造とラベルの両方を効果的に活用できることを示している。