[論文レビュー] GNNExplainer: Generating Explanations for Graph Neural Networks

Rex Ying, Dylan Bourgeois+3 more|arXiv (Cornell University)|Mar 10, 2019

Explainable Artificial Intelligence (XAI)参考文献 61被引用数 692

ひとこと要約

GNNExplainerを導入し、GNNの予測を説明するための、コンパクトな部分グラフと特徴サブセットを生成する一般的でモデル非依存の手法。予測と部分グラフ分布との相互情報量を最大化する最適化を用いる。

ABSTRACT

Graph Neural Networks (GNNs) are a powerful tool for machine learning on graphs.GNNs combine node feature information with the graph structure by recursively passing neural messages along edges of the input graph. However, incorporating both graph structure and feature information leads to complex models, and explaining predictions made by GNNs remains unsolved. Here we propose GNNExplainer, the first general, model-agnostic approach for providing interpretable explanations for predictions of any GNN-based model on any graph-based machine learning task. Given an instance, GNNExplainer identifies a compact subgraph structure and a small subset of node features that have a crucial role in GNN's prediction. Further, GNNExplainer can generate consistent and concise explanations for an entire class of instances. We formulate GNNExplainer as an optimization task that maximizes the mutual information between a GNN's prediction and distribution of possible subgraph structures. Experiments on synthetic and real-world graphs show that our approach can identify important graph structures as well as node features, and outperforms baselines by 17.1% on average. GNNExplainer provides a variety of benefits, from the ability to visualize semantically relevant structures to interpretability, to giving insights into errors of faulty GNNs.

研究の動機と目的

• 構造と特徴を組み合わせるグラフニューラルネットワークにおいて、解釈可能な説明の必要性を動機づける。
• 任意のGNNベースのモデルとグラフベースのタスクに対して説明を生成する、一般的でモデル非依存の枠組みを提案する。
• 個々の予測と全クラスのインスタンスを推進する、コンパクトな部分グラフと関連ノード特徴を特定する。
• 合成グラフと実世界グラフでアプローチを実証し、ベースラインと比較する。
• 説明がGNNの可視化、解釈、およびデバッグを支援することを示す。

提案手法

• GNNの説明を最適化問題として定式化する。
• GNNの予測と可能な部分グラフ構造の分布との間の相互情報量を最大化する。
• 予測情報を保存するコンパクトな部分グラフとノード特徴の小さなサブセットを選択する。
• インスタンス全体のクラスに対して一貫した説明を生成するよう拡張する。
• 合成グラフと実世界グラフでベースラインと比較評価を行い、説明精度を定量化する（最大で43.0%の改善）。

実験結果

リサーチクエスチョン

• RQ1 特定のインスタンスに対してGNNの予測決定を保持するコンパクトな部分グラフをどのように導出できるか？
• RQ2 与えられたグラフでGNNの予測にとってどのノード特徴が重要か？
• RQ3 説明をインスタンスの全クラスにわたって一貫性を持たせるよう拡張できるか？
• RQ4 合成グラフと実世界グラフにおけるGNNExplainerの性能は、ベースラインの説明手法と比較してどうか？

主な発見

• GNNExplainerは予測を駆動する重要な部分グラフ構造とノード特徴を特定する。
• 本手法は説明精度で最大43.0%の改善を示し、他のベースラインを上回る。
• 説明は意味的に関連する構造の可視化を提供し、解釈性と欠陥のあるGNNのデバッグ洞察を提供する。