[论文解读] GNNExplainer: Generating Explanations for Graph Neural Networks

Rex Ying, Dylan Bourgeois+3 more|arXiv (Cornell University)|Mar 10, 2019

Explainable Artificial Intelligence (XAI)参考文献 61被引用 692

一句话总结

介绍了 GNNExplainer，一种通用的、与模型无关的方法，用于生成紧凑的子图和特征子集来解释 GNN 的预测，其优化目标是在预测与子图分布之间最大化互信息。

ABSTRACT

Graph Neural Networks (GNNs) are a powerful tool for machine learning on graphs.GNNs combine node feature information with the graph structure by recursively passing neural messages along edges of the input graph. However, incorporating both graph structure and feature information leads to complex models, and explaining predictions made by GNNs remains unsolved. Here we propose GNNExplainer, the first general, model-agnostic approach for providing interpretable explanations for predictions of any GNN-based model on any graph-based machine learning task. Given an instance, GNNExplainer identifies a compact subgraph structure and a small subset of node features that have a crucial role in GNN's prediction. Further, GNNExplainer can generate consistent and concise explanations for an entire class of instances. We formulate GNNExplainer as an optimization task that maximizes the mutual information between a GNN's prediction and distribution of possible subgraph structures. Experiments on synthetic and real-world graphs show that our approach can identify important graph structures as well as node features, and outperforms baselines by 17.1% on average. GNNExplainer provides a variety of benefits, from the ability to visualize semantically relevant structures to interpretability, to giving insights into errors of faulty GNNs.

研究动机与目标

• 在图结构和特征相结合的情况下，说明可解释解释在图神经网络中的需求与动机。
• 提出一个通用的、与模型无关的框架，以生成对任何基于 GNN 的模型和基于图的任务的解释。
• 识别推动个体预测和整个实例类别的紧凑子图和相关的节点特征。
• 在合成和真实世界图上展示该方法并与基线方法比较。
• 表明解释有助于对 GNN 的可视化、解释和调试。

提出的方法

• 将 GNN 解释建模为一个优化问题。
• 最大化 GNN 的预测与可能子图结构分布之间的互信息。
• 选择一个紧凑的子图和一个小的节点特征子集，以保留预测信息。
• 扩展为为整个实例类别生成一致的解释。
• 在合成和真实世界图上对比基线方法并量化解释准确性（提升至最高 43.0%）。

实验结果

研究问题

• RQ1 如何为给定实例推导出能够保留 GNN 预测决策的紧凑子图？
• RQ2 哪些节点特征对 GNN 在给定图上的预测至关重要？
• RQ3 我们能否将解释扩展为对整个实例类别的一致性？
• RQ4 在合成和真实世界图上，GNNExplainer 相对于基线解释方法的表现如何？

主要发现

• GNNExplainer 能识别推动预测的重要子图结构和节点特征。
• 该方法在解释准确性方面相比其它基线提高最多 43.0%。
• 解释提供语义相关结构的可视化，并为有缺陷的 GNN 提供可解释性与调试洞见。