[论文解读] PGM-Explainer: Probabilistic Graphical Model Explanations for Graph Neural Networks

Minh N. Vu, My T. Thai|arXiv (Cornell University)|Oct 12, 2020

Explainable Artificial Intelligence (XAI)被引用 92

一句话总结

PGM-Explainer 引入了一个面向 GNN 的模型无关的解释器，它使用贝叶斯网络来近似预测，通过条件概率捕捉特征依赖关系并提供马尔可夫毯保证。与基线方法相比，它在合成数据和真实世界数据集上显示出更优的解释。

ABSTRACT

In Graph Neural Networks (GNNs), the graph structure is incorporated into the learning of node representations. This complex structure makes explaining GNNs' predictions become much more challenging. In this paper, we propose PGM-Explainer, a Probabilistic Graphical Model (PGM) model-agnostic explainer for GNNs. Given a prediction to be explained, PGM-Explainer identifies crucial graph components and generates an explanation in form of a PGM approximating that prediction. Different from existing explainers for GNNs where the explanations are drawn from a set of linear functions of explained features, PGM-Explainer is able to demonstrate the dependencies of explained features in form of conditional probabilities. Our theoretical analysis shows that the PGM generated by PGM-Explainer includes the Markov-blanket of the target prediction, i.e. including all its statistical information. We also show that the explanation returned by PGM-Explainer contains the same set of independence statements in the perfect map. Our experiments on both synthetic and real-world datasets show that PGM-Explainer achieves better performance than existing explainers in many benchmark tasks.

研究动机与目标

• 在复杂图结构下，为 GNN 的预测提供透明的解释的动机。
• 提出一个模型无关的解释器，使用概率图模型来近似预测。
• 确保解释捕获超越线性归因的被解释特征之间的依赖关系。
• 提供将所产生的 PGM 与目标预测的马尔可夫毯相关的理论保证。
• 在合成数据和真实世界任务上进行实证评估，以证明解释的有效性和直观性。

提出的方法

• 将解释定义为近似 GNN 目标预测的贝叶斯网络。
• 通过扰动输入图并记录预测来生成数据，以构建采样数据集。
• 执行变量选择，将 PGM 限制为包含目标的马尔可夫毯，使用成对依赖性测试。
• 使用基于 BIC 分数的方法和爬山算法优化来学习 PGM 的结构和参数。
• 可选地强制无子结点约束，使目标成为叶节点，以提高可解释性。
• 提供理论结果，表明在完美映射下包含马尔可夫毯和 I 等价性。

实验结果

研究问题

• RQ1 概率图模型是否能在保持可解释性的同时忠实近似 GNN 的目标预测？
• RQ2 将解释限制在紧凑的马尔可夫毯是否能捕捉到目标预测所需的全部信息？
• RQ3 基于 PGM 的解释器在准确性和可解释性上与现有的加性属性解释器相比如何？
• RQ4 关于马尔可夫毯包含和 I 等价性，PGM-Explainer 有哪些理论保证？

主要发现

• PGM-Explainer 的解释捕捉到图组件之间的非线性依赖性，而不同于线性归因方法。
• 理论结果表明所生成的 PGM 包含目标预测的马尔可夫毯，保留了所有统计信息。
• 在合成数据和真实世界数据集上的实证结果表明，PGM-Explainer 在解释的准确性/精确度方面通常优于 SHAP 和 GNNExplainer。
• 在节点和图分类任务中，解释提供了直观的概率性见解，说明邻近节点和结构模体如何影响目标预测。