[论文解读] Explainability in Graph Neural Networks: A Taxonomic Survey

Hao Yuan, Haiyang Yu+2 more|arXiv (Cornell University)|Dec 31, 2020

Advanced Graph Neural Networks被引用 94

一句话总结

本综述提供了GNN可解释性方法的统一分类学，提出了标准化测试平台，并进行实验以比较图神经网络的多种实例级和模型级解释。

ABSTRACT

Deep learning methods are achieving ever-increasing performance on many artificial intelligence tasks. A major limitation of deep models is that they are not amenable to interpretability. This limitation can be circumvented by developing post hoc techniques to explain the predictions, giving rise to the area of explainability. Recently, explainability of deep models on images and texts has achieved significant progress. In the area of graph data, graph neural networks (GNNs) and their explainability are experiencing rapid developments. However, there is neither a unified treatment of GNN explainability methods, nor a standard benchmark and testbed for evaluations. In this survey, we provide a unified and taxonomic view of current GNN explainability methods. Our unified and taxonomic treatments of this subject shed lights on the commonalities and differences of existing methods and set the stage for further methodological developments. To facilitate evaluations, we generate a set of benchmark graph datasets specifically for GNN explainability. We summarize current datasets and metrics for evaluating GNN explainability. Altogether, this work provides a unified methodological treatment of GNN explainability and a standardized testbed for evaluations.

研究动机与目标

• 提供对 GNN 解释技术的全面、统一综述。
• 提出一个分类实例级和模型级解释的分类学框架。
• 介绍用于 GNN 可解释性评估的数据集、评估指标，以及一个开源库。
• 进行实验以比较和分析多种可解释性方法的性能。

提出的方法

• 建立一个两分支分类法：GNN 的实例级和模型级解释。
• 在实例级解释中，将方法分为基于梯度/特征、基于扰动、分解和代理方法。
• 综述模型级解释，目前以 XGNN 为代表，聚焦于用于解释的图生成。
• 提出一个标准化测试平台，包括数据集、常用算法和评估指标，用于 GNN 的可解释性。
• 对每种方法的方法学、优点、缺点和差异进行批判性分析。

实验结果

研究问题

• RQ1 GNN 可解释性方法的主要类别及子类别有哪些？
• RQ2 实例级和模型级解释技术在目标和输出上有何不同？
• RQ3 哪些数据集和评估指标适合评估 GNN 的解释，其局限性是什么？
• RQ4 在实际任务（如节点、边、图级预测）中，不同 GNN 解释方法的比较如何？

主要发现

• 统一的分类学澄清了实例级解释中基于梯度/特征、基于扰动、分解和代理解释方法之间的区别。
• 模型级解释较少被研究，XGNN 是本次综述时的主要代表。
• 本文提供了一个公开测试平台，包括数据集、算法和评估指标，以标准化对 GNN 可解释性方法的评估。
• 引入一个开源库和全面的实验，以比较各种解释技术并指导未来的方法发展。