[論文レビュー] 2-hop Neighbor Class Similarity (2NCS): A graph structural metric indicative of graph neural network performance

Andrea Cavallo, Claas Grohnfeldt+3 more|arXiv (Cornell University)|Dec 26, 2022

Advanced Graph Neural Networks被引用数 5

ひとこと要約

本稿では、2ホップ近傍内のラベル分布を分析することにより、グラフのトポロジーがGNN（Graph Neural Network）の性能をどの程度サポートするかを定量化する新しいグラフ構造的指標、2ホップ近傍クラス類似度（2NCS）を導入する。ホモフィリーまたはCCNSとは異なり、2NCSはGCNスタイルのメッセージパッシングにおける2次近傍情報の理論的影響を捉えており、実グラフおよび合成グラフにおいてGCNおよびGATの精度とより強く一貫性のある相関関係を示す。

ABSTRACT

Graph Neural Networks (GNNs) achieve state-of-the-art performance on graph-structured data across numerous domains. Their underlying ability to represent nodes as summaries of their vicinities has proven effective for homophilous graphs in particular, in which same-type nodes tend to connect. On heterophilous graphs, in which different-type nodes are likely connected, GNNs perform less consistently, as neighborhood information might be less representative or even misleading. On the other hand, GNN performance is not inferior on all heterophilous graphs, and there is a lack of understanding of what other graph properties affect GNN performance. In this work, we highlight the limitations of the widely used homophily ratio and the recent Cross-Class Neighborhood Similarity (CCNS) metric in estimating GNN performance. To overcome these limitations, we introduce 2-hop Neighbor Class Similarity (2NCS), a new quantitative graph structural property that correlates with GNN performance more strongly and consistently than alternative metrics. 2NCS considers two-hop neighborhoods as a theoretically derived consequence of the two-step label propagation process governing GCN's training-inference process. Experiments on one synthetic and eight real-world graph datasets confirm consistent improvements over existing metrics in estimating the accuracy of GCN- and GAT-based architectures on the node classification task.

研究の動機と目的

• ホモフィリーおよびCCNSといった従来の指標よりも、GNN性能をよりよく予測する構造的グラフ特性を同定すること。
• 異種性グラフにおけるGNN性能の不一致を解消するために、2次近傍情報の役割を分析すること。
• ノードの2ホップ近傍内のラベル分布に基づいて、理論的根拠を持ち、定量可能な指標を導出すること。
• 多様なグラフデータセットにおいて、2NCSが他の指標よりもGCN精度とより強く相関することを検証すること。

提案手法

• 2NCSを、各ノードの2ホップ近傍内における同クラスノードの平均割合として定義し、2ホップ近傍のサイズで正規化する。
• 簡略化された1層GCNモデルの理論的分析により、ノード分類の精度が2ホップ近傍内のラベル分布に依存することを示す。
• GCNにおけるノード表現が近隣の近隣ノードに影響を受けるというラベル伝搬プロセスを、2ホップ近傍を代理として用いる。
• ノードレベルおよびグラフレベルで2NCSを計算し、GNN性能の予測力の評価を行う。
• 8つの実世界グラフおよび1つの合成グラフにおいて、2NCSをホモフィリー比$h$およびCCNSと比較し、GCNおよびGATの精度とのピアソン相関を用いて評価する。
• 各クラスごとの分析を実施し、2NCSの値とMLPに対するGNNのクラス別性能向上の関係を結びつける。

実験結果

リサーチクエスチョン

• RQ1 多様なグラフタイプにおいて、2NCSはホモフィリーおよびCCNSに比べてGNN性能をどの程度よく予測できるか？
• RQ2 2ホップ近傍内のラベル分布が、GNNノード分類精度にどの程度影響を与えるか？
• RQ3 2NCSは、なぜ一部の異種性グラフではGNNがMLPを上回るが、他のグラフでは上回らないかを説明できるか？
• RQ4 ノードレベルおよびグラフレベルの両方において、2NCSは従来の指標よりもGNN性能とより強く相関するか？
• RQ5 クラス別2NCS値は、ノード分類におけるGNNとMLPのクラス別性能向上とどの程度整合するか？

主な発見

• 8つの実世界グラフにおいて、2NCSはホモフィリー比$h$やCCNSよりもGCNおよびGAT精度と顕著に強いピアソン相関関係を示す。
• Chameleonデータセットでは、2NCSはGCN精度と$r = 0.90$の相関関係を示し、$h$の$r = 0.68$およびCCNSの$r = 0.75$を上回る。
• Squirrelでは、2NCSはGCN精度と$r = 0.88$の相関関係を示し、$h$（$r = 0.65$）およびCCNS（$r = 0.72$）を上回る。
• 高クラス別2NCS（例：Chameleonでは0.40–0.43）を示すクラスではGNNがMLPを大幅に上回るが、低2NCSクラス（例：Squirrelでは0.15）ではMLPがGNNを上回る。
• 2NCSの導出を模倣する簡略化されたGCNモデルは、標準GCNと同等の精度を達成しており、理論的根拠の妥当性が裏付けられる。
• 図示例のグラフにおいて、ノード0は2ホップ近傍が主に同クラスであるため分類可能であるが、これは$h$およびCCNSでは捉えられていないパターンである。