[论文解读] PGM-Explainer: Probabilistic Graphical Model Explanations for Graph Neural Networks

Minh N. Vu, My T. Thai|arXiv (Cornell University)|Oct 12, 2020

Explainable Artificial Intelligence (XAI)参考文献 31被引用 42

一句话总结

PGM-Explainer 提出了一种针对 GNN 的模型无关解释器，使用贝叶斯网络来捕捉非线性特征依赖，并识别用于解释的基于 Markov-blanket 的图组件子集。

ABSTRACT

In Graph Neural Networks (GNNs), the graph structure is incorporated into the learning of node representations. This complex structure makes explaining GNNs' predictions become much more challenging. In this paper, we propose PGM-Explainer, a Probabilistic Graphical Model (PGM) model-agnostic explainer for GNNs. Given a prediction to be explained, PGM-Explainer identifies crucial graph components and generates an explanation in form of a PGM approximating that prediction. Different from existing explainers for GNNs where the explanations are drawn from a set of linear functions of explained features, PGM-Explainer is able to demonstrate the dependencies of explained features in form of conditional probabilities. Our theoretical analysis shows that the PGM generated by PGM-Explainer includes the Markov-blanket of the target prediction, i.e. including all its statistical information. We also show that the explanation returned by PGM-Explainer contains the same set of independence statements in the perfect map. Our experiments on both synthetic and real-world datasets show that PGM-Explainer achieves better performance than existing explainers in many benchmark tasks.

研究动机与目标

• 为图神经网络（GNNs）提供一种模型无关的解释框架。
• 使用能够捕捉特征依赖的概率图模型来解释 GNN 的预测。
• 识别对预测有影响的紧凑且信息丰富的图组件子集。
• 确保解释包含目标预测的 Markov-blanket 以确保完整性。

提出的方法

• 将解释表述为近似 GNN 目标预测的贝叶斯网络。
• 生成扰动的输入图以创建一个采样数据集 D_t，捕捉 GNN 在原始输入附近的响应。
• 使用 Markov-blanket 概念选择变量，以获得包含目标 Markov-blanket 的紧凑集合 U(t)。
• 通过最大化 BIC 分数来学习解释贝叶斯网络（可选的无子结点约束），以获得 I 等效结构。
• 在适当时通过让目标成为叶节点来提供无子结点约束，以确保可解释性。
• 提供基于条件概率的解释，而非加法、线性归因的解释。

实验结果

研究问题

• RQ1 概率图模型如何在忠实地近似 GNN 的预测？
• RQ2 贝叶斯网络是否能揭示影响目标预测的解释特征之间的依赖关系？
• RQ3 将解释约束在 Markov-blanket 上是否能产生准确且简明的解释？
• RQ4 在合成数据和真实世界数据上，PGM-Explainer 与现有的 GNN 解释器（如 GNNExplainer、SHAP）的性能如何？

主要发现

• PGM-Explainer 在合成数据集上通常优于 SHAP 和 GNNExplainer，在识别真实地面真值基序解释方面具有更高的准确性。
• 在真实世界数据集上，PGM-Explainer 在解释节点和图预测方面比竞争方法具有更高的准确性。
• 解释提供可解释的条件概率，显示相邻节点的组合如何影响目标预测。
• 该方法捕捉图组件之间的非线性依赖，超越加法特征归因。
• 通过将变量限制在包含目标 Markov-blanket 的子集上来实现可扩展性，从而实现可处理的结构学习。