[论文解读] CF-GNNExplainer: Counterfactual Explanations for Graph Neural Networks

Ana Lučić, Maartje ter Hoeve+3 more|UvA-DARE (University of Amsterdam)|Feb 5, 2021

Explainable Artificial Intelligence (XAI)被引用 39

一句话总结

CF-GNNExplainer 通过在节点本地子图中移除边来最小化反事实解释，以使预测改变，在极少的边删除下实现高准确性。

ABSTRACT

Given the increasing promise of graph neural networks (GNNs) in real-world applications, several methods have been developed for explaining their predictions. Existing methods for interpreting predictions from GNNs have primarily focused on generating subgraphs that are especially relevant for a particular prediction. However, such methods are not counterfactual (CF) in nature: given a prediction, we want to understand how the prediction can be changed in order to achieve an alternative outcome. In this work, we propose a method for generating CF explanations for GNNs: the minimal perturbation to the input (graph) data such that the prediction changes. Using only edge deletions, we find that our method, CF-GNNExplainer, can generate CF explanations for the majority of instances across three widely used datasets for GNN explanations, while removing less than 3 edges on average, with at least 94\% accuracy. This indicates that CF-GNNExplainer primarily removes edges that are crucial for the original predictions, resulting in minimal CF explanations.

研究动机与目标

• 在实例层面形式化图神经网络(GNN)的反事实解释问题。
• 提出 CF-GNNExplainer 自动生成最小的反事实边扰动。
• 证明 CF-GNNExplainer 在多数据集上以较小的扰动产生可信的反事实。

提出的方法

• 一种与模型无关的 CF 解释框架，通过可学习的稀疏掩码 P 对邻接子矩阵 A_v 进行扰动，得到 Ā_v = P ⊙ A_v。
• 定义一个反事实模型 g，使用 P 来扰动 A_v，同时保持 GNN 权重固定，从而生成 CF 示例。
• 优化一个损失函数，结合预测变化目标 L_pred 与距离目标 L_dist，以确保扰动最小，对中间实值 P 进行基于梯度的更新（阈值化为二值）。
• 以单层 GCN 作为示例的 f，并推导 g(A_v,X_v,W;P) 将扰动后的邻接关系并入前向传递。
• 迭代搜索能够翻转预测的最小扰动，跟踪最佳（最小）扰动 Δ_v^*。

实验结果

研究问题

• RQ1 是否可以仅通过扰动图结构就自动生成对于 GNN 预测的最小、可操作的反事实解释？
• RQ2 对于给定节点，边的扰动需要多小才足以改变 GNN 的预测？
• RQ3 在节点的局部子图中删除边是否能在多样的图数据集上产生准确且可信的反事实？

主要发现

• CF-GNNExplainer 在三个数据集的 motif 节点上实现了至少 94% 的反事实解释准确性。
• 平均而言，CF-GNNExplainer 移除的边数少于 3 条以获得反事实，表明解释非常最小。
• CF-GNNExplainer 在解释规模和稀疏性方面优于基线（random, 1-hop, rm-1hop），同时保持高保真度和准确性。
• 与 GNNExplainer 相比，CF-GNNExplainer 能自动找到 CF 解释（没有固定的 S），在各数据集上实现更高的保真度和准确性。