[論文レビュー] When Do We Need Graph Neural Networks for Node Classification?

Sitao Luan, Chenqing Hua+4 more|arXiv (Cornell University)|Oct 30, 2022

Advanced Graph Neural Networks被引用数 9

ひとこと要約

本稿では、ノード分類においてグラフニューラルネットワーク（GNNs）がグラフに依存しないマルチレイヤーパーセプトロン（MLPs）を上回る状況を予測するため、正規化全 variation（NTV）と正規化スムーズネス値（NSV）を提案する。グラフ信号処理と統計的仮説検定を用いて特徴量とラベルにおけるエッジバイアスを分析することで、GNNが性能優位性を発揮する閾値条件を同定し、実世界のグラフにおいてMLPがGNNを上回る理由を説明する。

ABSTRACT

Graph Neural Networks (GNNs) extend basic Neural Networks (NNs) by additionally making use of graph structure based on the relational inductive bias (edge bias), rather than treating the nodes as collections of independent and identically distributed (i.i.d.) samples. Though GNNs are believed to outperform basic NNs in real-world tasks, it is found that in some cases, GNNs have little performance gain or even underperform graph-agnostic NNs. To identify these cases, based on graph signal processing and statistical hypothesis testing, we propose two measures which analyze the cases in which the edge bias in features and labels does not provide advantages. Based on the measures, a threshold value can be given to predict the potential performance advantages of graph-aware models over graph-agnostic models.

研究の動機と目的

• グラフ構造を用いても、GNNがグラフに依存しないMLPを上回らない状況を特定すること。
• 非接続ノードペアを考慮しない既存の同質性指標の限界を是正し、GNNの性能を信頼性高く予測すること。
• エッジバイアスがGNNが非グラフに依存するモデルよりも性能優位性を発揮する条件を体系的かつ原理的につかむ方法を開発すること。
• グラフおよびラベルの特性に基づき、GNNとMLPの間でモデル選択を行うための閾値ベースの予測システムを提供すること。

提案手法

• ノードペア間の特徴量の変動を、すべての可能なペアに対して相対的に測定することにより、接続されたノードペアにおける特徴量のエッジバイアス効果を定量化するため、正規化全 variation（NTV）を提案する。
• 接続されたノードペアが非接続ペアよりも顕著に同じラベルを持つ確率が高いかどうかを統計的仮説検定を用いて評価することで、ラベルの一貫性におけるエッジバイアスの統計的有意性を評価するため、正規化スムーズネス値（NSV）を導入する。
• スペクトルグラフ理論とグラフ信号処理を適用し、特に低域透過フィルタリング効果を通じてエッジバイアスがGNN学習ダイナミクスに与える影響をモデル化する。
• トレースに基づく最適化をGNN学習に適用し、隣接行列の影響を形式化することで、エッジバイアスがラベル伝搬に悪影響を及ける場合（特に接続ノードのラベルが異なる場合）にそれが有害であることを示す。
• NSVに基づく仮説検定からのp値を統合し、エッジバイアスが統計的に有益かどうかを判断することで、モデル選択のための閾値ベースの意思決定ルールを可能にする。
• 14個の実世界データセットを用いて測定値を検証し、GNNとMLPの性能を比較することで、NTVおよびNSVが実際のモデル性能向上と相関することを確認する。

実験結果

リサーチクエスチョン

• RQ1 グラフ構造におけるエッジバイアスが、グラフに依存しないMLPに対してGNNの性能向上をもたらさない状況はどのようなものか？
• RQ2 実世界のデータセットにおいてグラフ構造が存在するにもかかわらず、一部のGNNがMLPを下回る理由は何か？
• RQ3 ラベルおよび特徴量におけるエッジバイアスの統計的有意性を定量化し、GNNがMLPを上回る状況を予測できるか？
• RQ4 既存の同質性指標がGNN対MLPの性能を予測できない理由は何か？また、提案手法はどのような改善をもたらすか？
• RQ5 NTVおよびNSVのどの閾値が、GNNがMLPを上回る信頼性のある性能優位性を示すか？

主な発見

• MLPがいくつかのデータセット（例：Cornell, Wisconsin, Texas, Film）でGNNを上回り、正解率の差が最大17.48%に達するなど、GNNの非自明な失敗事例が確認された。
• PubMed, Coauthor CS, Coauthor Phyといった高同質性データセットでは、MLPの性能がGNNとほぼ同等（差 <1%）であり、GNNがグラフ構造の恩恵を常に受けるという仮定に疑問を呈する。
• 提案されたNSV指標に加え、仮説検定からのp値を統合することで、エッジバイアスが統計的に有益であるかどうかを的確に同定でき、GNNの性能向上または低下を説明できた。
• NTVおよびNSVは14個の実世界データセットにおいて、実測結果と強く相関しており、エッジバイアスの有意性が低い場合にMLPの優位性が顕著に現れている。
• GNNは、接続されたノードペアのラベルが異なる場合に、負のエッジバイアス効果を受けて誤ったラベル伝搬を引き起こし、性能が低下することが判明した。
• NSVおよびp値に基づく閾値により、GNNがMLPを上回るかどうかを信頼性高く予測できるようになり、ノード分類タスクにおけるモデル選択の実用的基準を提供した。