[論文レビュー] GStarX: Explaining Graph Neural Networks with Structure-Aware Cooperative Games

Shichang Zhang, Yozen Liu+2 more|arXiv (Cornell University)|Jan 28, 2022

Advanced Graph Neural Networks被引用数 11

ひとこと要約

GStarX は、協力ゲーム理論のハミアッチェ＝ナヴァロ（HN）値を用いて、GNN の構造に配慮した説明手法を提案する。この HN 値は、メッセージスティンのインスピレーションを受けて、ノード特徴量と構造的役割の両方を捉える。化学およびテキストグラフデータセットにおいて、説明の忠実度とスパarsity において、Shapley 値に基づくベースラインを上回る性能を発揮する。

ABSTRACT

Explaining machine learning models is an important and increasingly popular area of research interest. The Shapley value from game theory has been proposed as a prime approach to compute feature importance towards model predictions on images, text, tabular data, and recently graph neural networks (GNNs) on graphs. In this work, we revisit the appropriateness of the Shapley value for GNN explanation, where the task is to identify the most important subgraph and constituent nodes for GNN predictions. We claim that the Shapley value is a non-ideal choice for graph data because it is by definition not structure-aware. We propose a Graph Structure-aware eXplanation (GStarX) method to leverage the critical graph structure information to improve the explanation. Specifically, we define a scoring function based on a new structure-aware value from the cooperative game theory proposed by Hamiache and Navarro (HN). When used to score node importance, the HN value utilizes graph structures to attribute cooperation surplus between neighbor nodes, resembling message passing in GNNs, so that node importance scores reflect not only the node feature importance, but also the node structural roles. We demonstrate that GStarX produces qualitatively more intuitive explanations, and quantitatively improves explanation fidelity over strong baselines on chemical graph property prediction and text graph sentiment classification.

研究の動機と目的

• Shapley 値の GNN 説明における限界、特に構造に無関心であり、グラフのトポロジーを活用できない点を解決すること。
• ノードの重要度スコアリングのための構造に配慮した代替手法として、ハミアッチェ＝ナヴァロ（HN）値を導入すること。
• HN 値のスコアリングが、GNN の予測において特徴量と構造的寄与の両方をよりよく反映することを示すこと。
• HN 値を GNN メッセージスティンの意味論と統合した実用的な説明手法 GStarX を開発すること。
• 実世界のグラフデータセットにおいて、GStarX が定性的な直感性と定量的忠実度の両面で優れていることを検証すること。

提案手法

• 均一なコалиションサイズではなく、構造的近傍に依存して報酬の余剰を配分する HN 値に基づく新しいスコア関数を定義する。
• HN 値を用いて、構造に配慮した重みを用いたマージナル寄与の集約によりノードの重要度を計算する。これにより、接続されたコアリションが優遇される。
• 上位 k 個の HN スコアを持つノードによって誘導される部分グラフとして説明を構築し、構造的整合性を保証する。
• HN 値の余剰配分と GNN メッセージスティンの類似性を活用し、説明をモデルの推論と整合させる。
• 大規模グラフへのスケーラビリティを実現するため、効率的な近似技術を用いて GStarX を実装する。
• 生成された説明のコンパクトさと解釈可能性を評価するために、エントロピーに基づくスパarsity メトリクスを用いる。

実験結果

リサーチクエスチョン

• RQ1 Shapley 値が構造に無関心であることを踏まえ、なぜ GNN の予測説明において劣っているのか。
• RQ2 グラフ構造を協力ゲーム理論的説明手法に形式的に統合する方法は何か。
• RQ3 HN 値は、Shapley 値と比較して、特徴量と構造的役割の両方をどれだけよく捉えているのか。
• RQ4 構造に配慮した説明手法 GStarX は、既存のベースラインと比較して、より高い忠実度と直感的な部分グラフ説明を達成できるか。
• RQ5 GStarX が生成する説明のスパarsity は、理論的基準分布と比較してどの程度であるか。これは解釈可能性を示唆する。

主な発見

• GStarX は、化学およびテキストグラフデータセットの両方で、SubgraphX や GraphSVX を含む強力なベースラインを大きく上回る説明の忠実度を達成する。
• GStarX のエントロピーに基づくスパarsity スコア（2.13–2.45）は、Uniform(n)（3.0–3.5）よりもはるかに低く、Poisson(0.25*n) に近く、非常にコンパクトで解釈可能な説明であることを示している。
• MUTAG データセットでは、GStarX のスパarsity スコアは 2.2434 であり、Uniform(n)（2.8612）を上回り、理想の Poisson(0.25*n) ベースラインに近い。
• GStarX の HN 値に基づく説明は、局所的な余剰配分により、構造的に重要なノード（例：-NO2 機能群内の窒素原子）をよりよく同定する。
• 定性的分析により、GStarX の説明はより直感的であり、分離されたノードや意味的に無関係なコアリション（例：'bad' がない文における 'not' と 'good'）を正しく除外している。
• GStarX の説明生成は、GNN メッセージスティンとより整合しており、両者とも近傍集約を用いて重要度を伝搬させる。