[论文解读] GCExplainer: Human-in-the-Loop Concept-based Explanations for Graph Neural Networks

Lucie Charlotte Magister, Dmitry Kazhdan+2 more|arXiv (Cornell University)|Jul 25, 2021

Explainable Artificial Intelligence (XAI)参考文献 32被引用 14

一句话总结

GCExplainer 提出了一种基于人类参与的、无监督的方法，通过利用用户引导的概念发现，在图神经网络（GNNs）中发现全局性、基于概念的解释。该方法在生成可解释性高、质量优且全局适用的解释方面优于 GNNExplainer，其最大完整度得分为 1.0，跨数据集的平均得分为 0.753。

ABSTRACT

While graph neural networks (GNNs) have been shown to perform well on graph-based data from a variety of fields, they suffer from a lack of transparency and accountability, which hinders trust and consequently the deployment of such models in high-stake and safety-critical scenarios. Even though recent research has investigated methods for explaining GNNs, these methods are limited to single-instance explanations, also known as local explanations. Motivated by the aim of providing global explanations, we adapt the well-known Automated Concept-based Explanation approach (Ghorbani et al., 2019) to GNN node and graph classification, and propose GCExplainer. GCExplainer is an unsupervised approach for post-hoc discovery and extraction of global concept-based explanations for GNNs, which puts the human in the loop. We demonstrate the success of our technique on five node classification datasets and two graph classification datasets, showing that we are able to discover and extract high-quality concept representations by putting the human in the loop. We achieve a maximum completeness score of 1 and an average completeness score of 0.753 across the datasets. Finally, we show that the concept-based explanations provide an improved insight into the datasets and GNN models compared to the state-of-the-art explanations produced by GNNExplainer (Ying et al., 2019).

研究动机与目标

• 解决 GNN 在安全关键应用中缺乏透明度和问责制的问题。
• 克服局部解释（如 GNNExplainer）的局限性，后者仅针对特定实例且不具备泛化能力。
• 实现能够捕捉节点或图中重复出现的结构与特征模式的全局性、基于概念的解释。
• 通过融入人类专业知识参与概念发现，确保解释的可解释性与领域知识的相关性。
• 开发一种适用于多种 GNN 基于学习任务和数据集的可泛化框架。

提出的方法

• 将自动化基于概念的解释（ACE）框架适配至 GNN，用于事后解释。
• 通过无监督聚类 GNN 激活模式来识别候选概念表征。
• 通过允许用户标注和优化已发现的概念，整合人类反馈以提升可解释性。
• 应用邻域扩展（n 跳）技术，可视化并验证关键节点周围的概念结构。
• 使用完整度度量评估所发现概念在多大程度上解释了模型的预测结果。
• 在多个图之间进行概念对齐，以提取与预测任务相关的稳定、全局性的模式。

实验结果

研究问题

• RQ1 人类参与的基于概念的发现能否提取出有意义的、全局可解释的 GNN 预测模式？
• RQ2 与局部解释（如 GNNExplainer）相比，基于概念的解释在可解释性和完整度方面的质量如何？
• RQ3 无监督概念发现能在多大程度上识别出与领域知识一致的结构基序？
• RQ4 该方法在节点分类和图分类任务中，识别出跨多个图的一致且可重用的概念的效率如何？
• RQ5 用户反馈对提取概念的质量和相关性有何影响？

主要发现

• GCExplainer 在五个节点分类和两个图分类数据集上实现了最大完整度得分为 1.0，平均完整度得分为 0.753。
• 该方法成功发现了高质量、可解释的概念，例如分子图中的环状结构和社交网络中的用户响应基序。
• 基于概念的解释相较于 GNNExplainer 的局部子图解释，能提供对模型行为更全面的全局洞察。
• 该方法支持在多个图中探索结构模式，揭示了如 C–H 簇和星型交互模式等重复出现的基序。
• 用户引导的优化显著提升了概念的纯净度与相关性，尤其在复杂数据集（如 REDDIT-BINARY）中表现突出。
• 尽管概念发现在此类任务中在节点分类中更有效，但在图分类任务中仍能提供有价值的全局洞察，尽管复杂度更高。