[論文レビュー] GISExplainer: On Explainability of Graph Neural Networks via Game-theoretic Interaction Subgraphs

Xingping Xian, Jing Liu+5 more|arXiv (Cornell University)|Sep 24, 2024

Scientific Computing and Data ManagementDecision Sciences被引用数 3

ひとこと要約

本稿では、Shapleyに基づくゲーム理論的相互作用値を用いて反復的なエッジ選択を誘導することで、エッジ間の相互作用強度が最も高い部分グラフを特定する、GNN（グラフニューラルネットワーク）のためのゲーム理論的説明手法GraphGIを提案する。本手法は、ノード中心的または独立した特徴量の帰属付けに依存するのではなく、エッジレベルの相互作用をモデル化することで、最先端のベースラインと比較して優れた忠実度とスパarsityを達成する。

ABSTRACT

Explainability is crucial for the application of black-box Graph Neural Networks (GNNs) in critical fields such as healthcare, finance, cybersecurity, and more. Various feature attribution methods, especially the perturbation-based methods, have been proposed to indicate how much each node/edge contributes to the model predictions. However, these methods fail to generate connected explanatory subgraphs that consider the causal interaction between edges within different coalition scales, which will result in unfaithful explanations. In our study, we propose GISExplainer, a novel game-theoretic interaction based explanation method that uncovers what the underlying GNNs have learned for node classification by discovering human-interpretable causal explanatory subgraphs. First, GISExplainer defines a causal attribution mechanism that considers the game-theoretic interaction of multi-granularity coalitions in candidate explanatory subgraph to quantify the causal effect of an edge on the prediction. Second, GISExplainer assumes that the coalitions with negative effects on the predictions are also significant for model interpretation, and the contribution of the computation graph stems from the combined influence of both positive and negative interactions within the coalitions. Then, GISExplainer regards the explanation task as a sequential decision process, in which a salient edges is successively selected and connected to the previously selected subgraph based on its causal effect to form an explanatory subgraph, ultimately striving for better explanations. Additionally, an efficiency optimization scheme is proposed for the causal attribution mechanism through coalition sampling. Extensive experiments demonstrate that GISExplainer achieves better performance than state-of-the-art approaches w.r.t. two quantitative metrics: Fidelity and Sparsity.

研究の動機と目的

• 既存のGNN説明手法が特徴量を独立したものとして扱い、それらの相互作用を無視するという制限を解消すること。
• エッジ間の強力な協力的相互作用を捉える部分グラフを同定することで、モデルの解釈可能性を向上させること。
• 実世界のグラフにスケーリング可能な、ゲーム理論的相互作用値の効率的な計算フレームワークを開発すること。
• GNNの受容 field 内でエッジレベルの相互作用をモデル化することで、説明の忠実度とスパarsityを向上させること。

提案手法

• GraphGIは、エッジをプレイヤーとみなす協力的ゲームとしてGNNの説明を定式化し、ゲーム理論的相互作用値を用いてその集団的貢献を測定する。
• 現在の連携集合の相互作用強度を最大化するエッジを選択することで、段階的に説明用部分グラフを構築する。
• 公平な協力的効果の帰属付けを保証するため、Shapley値およびその拡張を用いて相互作用強度を計算する。
• 計算コストを低減するため、Shapley値および相互作用値の近似にモンテカルロサンプリングを適用する。
• 説明用部分グラフは予測ターゲットのLホップ近傍に制限され、GNNのメッセージパッシングメカニズムと整合する。
• 本手法は、スパースであるが高相互作用性の高いエッジ集合を優先し、ノード接続部分グラフよりも単一の有向エッジを好む。

実験結果

リサーチクエスチョン

• RQ1 GNNにおけるエッジレベルの相互作用を効果的にモデル化することで、説明の忠実度を向上させられるか？
• RQ2 エッジ間の協力的相互作用をモデル化する手法と、独立した特徴量帰属付けを比較した場合、GNN説明においてどのような差が生じるか？
• RQ3 ゲーム理論的相互作用値は、GNN説明のスパarsityと解釈可能性をどの程度向上させられるか？
• RQ4 効率的な近似技術は、計算コストを削減しながらも高い正確性を維持できるか、相互作用に基づく説明において？

主な発見

• GraphGIは、合成データおよび実世界データセットの両方で、SubgraphX、PGExplainer、その他のベースラインと比較して最高の忠実度とスパarsityを達成した。
• BA-shapesおよびTree-cyclesデータセットでは、GINモデル下で最高の忠実度とスパarsityを達成し、グラフ構造にわたる頑健性を示した。
• CoraやCiteSeerなどの実世界データセットでも、高スパarsityレベル下でも高いパフォーマンスを維持した。これは、重要な相互作用部分グラフの効果的な同定を示している。
• エッジ中心の相互作用駆動型選択戦略のおかげで、SubgraphX や PGExplainer よりもスパarserな説明を生成した。
• モンテカルロサンプリングの使用により、計算時間を顕著に短縮したが、説明の品質に悪影響を与えることなく、大規模グラフへのスケーラビリティを実現した。