[论文解读] DT+GNN: A Fully Explainable Graph Neural Network using Decision Trees

Peter Müller, Lukas Faber+2 more|arXiv (Cornell University)|May 26, 2022

Explainable Artificial Intelligence (XAI)被引用 5

一句话总结

DT+GNN 是一种完全可解释的图神经网络，它用从训练好的 MLP 提取的决策树替代了传统的 GNN 层，从而实现了消息传递和预测逻辑的端到端可解释性。该方法在真实世界和基准数据集上实现了具有竞争力的准确率，同时提供了直观、人类可读的决策规则，并通过 Web 界面支持交互式解释。

ABSTRACT

We propose the fully explainable Decision Tree Graph Neural Network (DT+GNN) architecture. In contrast to existing black-box GNNs and post-hoc explanation methods, the reasoning of DT+GNN can be inspected at every step. To achieve this, we first construct a differentiable GNN layer, which uses a categorical state space for nodes and messages. This allows us to convert the trained MLPs in the GNN into decision trees. These trees are pruned using our newly proposed method to ensure they are small and easy to interpret. We can also use the decision trees to compute traditional explanations. We demonstrate on both real-world datasets and synthetic GNN explainability benchmarks that this architecture works as well as traditional GNNs. Furthermore, we leverage the explainability of DT+GNNs to find interesting insights into many of these datasets, with some surprising results. We also provide an interactive web tool to inspect DT+GNN's decision making.

研究动机与目标

• 为解决黑箱 GNN 模型内在可解释性不足的问题，设计一种每个决策步骤均可检查的模型。
• 通过结构化的决策规则，实现对输入特征和图结构如何影响预测结果的完整可追溯性。
• 开发一种方法，将训练好的 GNN 转换为紧凑、人类可读的决策树，同时不损失预测性能。
• 提供全局模型解释（通过决策树）和局部解释（通过节点重要性热力图），用于 GNN 预测。
• 通过模型透明性，识别并诊断现有 GNN 解释基准中的缺陷。

提出的方法

• 提出一种基于‘石器时代模型’的可微分 GNN 层（Diff-DT+GNN），其具有类别型状态和消息空间，支持离散、可解释的消息传递。
• 使用梯度下降训练 GNN，其中消息传递层采用 MLP，随后通过一种新颖的树转换方法将每个 MLP 转换为决策树。
• 应用集体剪枝以在保持准确率的前提下减小树的规模，提升可解释性和模型紧凑性。
• 从决策树中提取传统 GNN 的解释（如节点重要性热力图），以支持全局与局部可解释性。
• 利用决策树结构重建推理路径，使用户能够逐层追踪每个预测的生成过程。
• 部署交互式 Web 工具，用于在真实和合成数据集上可视化并探索 DT+GNN 的决策过程。

实验结果

研究问题

• RQ1 能否通过用决策树替换 GNN 的学习组件，使 GNN 架构实现完全可解释性，同时保持具有竞争力的性能？
• RQ2 所提出的树转换与剪枝方法在不损失准确率的前提下，对降低模型复杂度的效率如何？
• RQ3 DT+GNN 是否能揭示现有 GNN 解释基准中的隐藏偏见或缺陷，例如对负类样本给出错误解释？
• RQ4 从 GNN 中提取的决策树在多大程度上能揭示现实世界图数据集中的有意义结构洞察？
• RQ5 与传统 GNN 相比，DT+GNN 中的决策规则在可解释性和预测保真度方面表现如何？

主要发现

• DT+GNN 在真实世界数据集（如 PROTEINS、MUTAG 和 BA-2Motifs）上的分类准确率与标准 GNN 具有竞争力。
• 该模型最终层的决策规则高度可解释——例如在 PROTEINS 数据集中，模型仅通过计数特定化学结构即可对酶进行分类，证实了计数方法可能优于消息传递机制的先前发现。
• 在 BA-2Motifs 数据集中，DT+GNN 正确识别了房屋结构中的节点，但因依赖偏置项而在环形图上产生错误解释，暴露出现有解释基准中的缺陷。
• 在 Tree-Cycle 数据集中，DT+GNN 通过识别度为 2 的邻居来检测环形节点，但解释结果错误地强调了远距离节点，揭示了现有解释方法中存在的冗余真实标签问题。
• 对于 MUTAG 数据集，本文发现 $NO_2$ 子图并非有效解释（因其在所有图中均存在），并提出一种简单的度计数规则，准确率达 89%，可作为正确替代方案。
• 所提出的剪枝方法显著减小了决策树规模，且未造成性能下降，从而增强了模型的可解释性与效率。