[論文レビュー] Towards a practical $k$-dimensional Weisfeiler-Leman algorithm

Christopher Morris, Petra Mutzel|arXiv (Cornell University)|Apr 2, 2019

Advanced Graph Neural Networks被引用数 6

ひとこと要約

本論文は、各反復においてグラフに依存するスパースな部分集合に限定して近隣探索を制限することにより、計算コストを低減する $k$-次元 Weisfeiler-Leman アルゴリズムの局所的変種を導入する。この最適化にもかかわらず、元のアルゴリズムが非同型グラフを区別できる能力を維持し、ベンチマーク・グラフデータセットにおいてより高速な実行時間と向上した分類精度を達成する。

ABSTRACT

The $k$-dimensional Weisfeiler-Leman algorithm is a well-known heuristic for the graph isomorphism problem. Moreover, it recently emerged as a powerful tool for supervised graph classification. The algorithm iteratively partitions the set of $k$-tuples, defined over the set of vertices of a graph, by considering neighboring $k$-tuples. Here, we propose a ew{local} variant which considers a subset of the original neighborhood in each iteration step. The cardinality of this local neighborhood, unlike the original one, only depends on the sparsity of the graph. Surprisingly, we show that the local variant has at least the same power as the original algorithm in terms of distinguishing non-isomorphic graphs. In order to demonstrate the practical utility of our local variant, we apply it to supervised graph classification. Our experimental study shows that our local algorithm leads to improved running times and classification accuracies on established benchmark datasets.

研究の動機と目的

• グラフ解析タスクにおける標準的 $k$-次元 Weisfeiler-Leman アルゴリズムの高い計算コストに対処すること。
• 元のアルゴリズムの区別能力を維持しつつ、局所的な近隣探索によって実行時間を短縮する変種を開発すること。
• 提案手法の実用的性能を実世界のグラフ分類ベンチマークで評価すること。
• グラフのスパarsityに基づく局所的近隣選択が、理論的保証を保持しながら効率性を向上させることを示すこと。

提案手法

• アルゴリズムは、グラフのスパarsityに基づいて各反復で考慮する近隣 $k$-タプルの数を制限する局所的近隣選択戦略を導入する。
• すべての近隣 $k$-タプルを処理するのではなく、元の $k$-WL アルゴリズムと同等の区別能力を維持するのに十分な部分集合のみを選択する。
• 局所的近隣はスパarsityに配慮した基準を用いて定義され、全 $k$-タプル近隣の大きさではなく、グラフの辺密度に比例するサイズにスケーリングされる。
• アルゴリズムは、これらの局所的に選択された近隣のみを用いて $k$-タプルのパーティションを反復的に精緻化し、元の $k$-WL の精緻化プロセスと整合性を保つ。
• 標準ベンチマーク上でその実効的性能を評価するために、提案手法は教師ありグラフ分類パイプラインに統合されている。

実験結果

リサーチクエスチョン

• RQ1 局所的変種である $k$-次元 Weisfeiler-Leman アルゴリズムは、元のアルゴリズムと同等の区別能力を維持できるか？
• RQ2 グラフのスパarsityに基づいて近隣サイズを小さくすることで、精度を損なわず実行時間に顕著な改善が得られるか？
• RQ3 ベンチマークデータセットにおける分類精度の観点から、局所的 $k$-WL アルゴリズムは標準 $k$-WL と比べてどのように異なるか？
• RQ4 スパarsityに配慮した近隣選択は、大規模グラフにおけるアルゴリズムのスケーラビリティにどのような影響を与えるか？

主な発見

• 局所的 $k$-次元 Weisfeiler-Leman アルゴリズムは、元のアルゴリズムと同等の区別能力を達成し、その理論的保証を保持している。
• 制限された近隣探索のおかげで実行時間が顕著に短縮され、大規模またはスパースなグラフに対してもスケーラブルになっている。
• 確立されたグラフ分類ベンチマークにおいて、局所的変種は標準 $k$-WL アルゴリズムよりも高い分類精度を達成している。
• 性能向上の要因は、局所的精緻化プロセスによる過学習の低減と、より効率的な特徴伝搬にあるとされる。