[論文レビュー] CF-GNNExplainer: Counterfactual Explanations for Graph Neural Networks

Ana Lučić, Maartje ter Hoeve+3 more|UvA-DARE (University of Amsterdam)|Feb 5, 2021

Explainable Artificial Intelligence (XAI)被引用数 39

ひとこと要約

CF-GNNExplainer は、ノードの局所サブグラフのエッジを削除することで予測を変えるまで、GNN の予測に対する最小の反事実説明を生成し、非常に少ないエッジ削除で高い精度を達成します。

ABSTRACT

Given the increasing promise of graph neural networks (GNNs) in real-world applications, several methods have been developed for explaining their predictions. Existing methods for interpreting predictions from GNNs have primarily focused on generating subgraphs that are especially relevant for a particular prediction. However, such methods are not counterfactual (CF) in nature: given a prediction, we want to understand how the prediction can be changed in order to achieve an alternative outcome. In this work, we propose a method for generating CF explanations for GNNs: the minimal perturbation to the input (graph) data such that the prediction changes. Using only edge deletions, we find that our method, CF-GNNExplainer, can generate CF explanations for the majority of instances across three widely used datasets for GNN explanations, while removing less than 3 edges on average, with at least 94\% accuracy. This indicates that CF-GNNExplainer primarily removes edges that are crucial for the original predictions, resulting in minimal CF explanations.

研究の動機と目的

• GNN の個別レベルでの反事実説明の問題を形式化する。
• CF-GNNExplainer を提案し、最小の反事実エッジ摂動を自動的に生成する。
• 複数のデータセットに渡って、CF-GNNExplainer が小さな摂動で忠実な反事実を生成することを示す。

提案手法

• 学習可能な sparsification マスク P によって隣接サブマトリクス A_v を摂動させ、Ā_v = P ⊙ A_v を得る、モデル非依存の CF 説明フレームワーク。
• P を用いて A_v を摂変させつつ GNN の重みを固定した反事実モデル g を定義し、CF の例を生成できるようにする。
• 予測変更目的 L_pred と距離目的 L_dist を組み合わせた損失を最適化し、最小の摂動を保証する。中間の実数値 P に対する勾配ベースの更新を行い、二値に閾値処理。
• 説明的な f として1層GCNを用い、摂動済み隣接行列を順伝播に組み込むように g(A_v,X_v,W;P) を導出する。
• 予測を反転させる最小の摂動を反復的に探索し、最良の（最小の）摂動 Δ_v^* を追跡する。

実験結果

リサーチクエスチョン

• RQ1 グラフ構造のみを摂動することによって、GNN の予測に対する最小で実用的な反事実説明を自動的に生成できるか？
• RQ2 特定のノードに対して、どれだけ小さな摂動（エッジ数）が GNN の予測を変えるのに十分か？
• RQ3 ノードの局所サブグラフにおけるエッジ削除は、多様なグラフデータセットで正確で忠実な反事実を生み出すか？

主な発見

• CF-GNNExplainer は、3つのデータセットに渡るモチーフノードで少なくとも 94% の精度の反事実説明を達成する。
• 平均して、CF-GNNExplainer は反事実を得るために3本未満のエッジを削除しており、非常に最小の説明を示す。
• CF-GNNExplainer は、説明サイズとスパース性においてベースライン（random、1-hop、rm-1hop）を上回りつつ、高忠実度と精度を維持する。
• GNNExplainer と比較して、CF-GNNExplainer は自動的に CF 説明を見つけ（固定 S 不在）、データセット全体でより高い忠実度と精度を達成する。