[论文解读] MotifExplainer: a Motif-based Graph Neural Network Explainer

Zhaoning Yu, Hongyang Gao|arXiv (Cornell University)|Feb 1, 2022

Explainable Artificial Intelligence (XAI)被引用 6

一句话总结

MotifExplainer 是一种新型的、与模型无关的图神经网络解释器，它将重复出现且具有统计显著性的图模式（motifs）而非单个节点或边作为主要解释单元。通过提取特定领域的图模式，利用预训练的图神经网络进行编码，并使用注意力机制对这些模式的预测重要性进行排序，该方法在可解释性和效率方面优于现有的基于节点、边或子图的解释器，其推理时间低于 0.03 秒，且在 MUTAG 数据集上的训练时间低于 400 秒。

ABSTRACT

We consider the explanation problem of Graph Neural Networks (GNNs). Most existing GNN explanation methods identify the most important edges or nodes but fail to consider substructures, which are more important for graph data. The only method that considers subgraphs tries to search all possible subgraphs and identify the most significant subgraphs. However, the subgraphs identified may not be recurrent or statistically important. In this work, we propose a novel method, known as MotifExplainer, to explain GNNs by identifying important motifs, recurrent and statistically significant patterns in graphs. Our proposed motif-based methods can provide better human-understandable explanations than methods based on nodes, edges, and regular subgraphs. Given an input graph and a pre-trained GNN model, our method first extracts motifs in the graph using well-designed motif extraction rules. Then we generate motif embedding by feeding motifs into the pre-trained GNN. Finally, we employ an attention-based method to identify the most influential motifs as explanations for the final prediction results. The empirical studies on both synthetic and real-world datasets demonstrate the effectiveness of our method.

研究动机与目标

• 为解决现有图神经网络解释器仅关注节点或边的局限性，这些方法无法捕捉对图结构解释至关重要的高阶结构模式。
• 通过识别重复出现且具有统计显著性的子结构（即图模式）而非任意或无代表性的子图，提升图神经网络预测结果的人类可理解性。
• 开发一种高效、与模型无关的解释框架，利用图模式级别的注意力机制，实现可扩展且可解释的图神经网络解释。
• 通过从图神经网络预测中生成可解释且可重用的片段库，推动在药物发现等领域的实际应用。

提出的方法

• 基于专家知识的领域特定规则进行图模式提取，识别输入图中重复出现的子图模式。
• 利用预训练图神经网络的特征提取器对每个提取出的图模式进行嵌入，以保留其结构和特征信息。
• 训练一个基于注意力的模型，根据图模式对图神经网络最终预测的贡献程度分配重要性得分。
• 根据注意力权重对图模式进行排序，选择排名靠前的图模式作为最终解释，从而提供简洁、人类可读的图神经网络决策摘要。
• 该方法与模型无关，无需微调图神经网络，可应用于任意预训练的图神经网络模型。
• 训练过程包括图模式提取、图模式嵌入构建以及注意力模型训练，推理过程极为高效。

实验结果

研究问题

• RQ1 基于图模式的解释是否能为图神经网络提供比基于节点或边的解释更具可解释性和人类可理解性的洞察？
• RQ2 识别重复出现且具有统计显著性的图模式，是否能带来比任意子图识别更可靠、更具泛化能力的解释？
• RQ3 注意力机制是否能有效根据图模式对图神经网络决策的预测相关性进行排序？
• RQ4 在训练和推理时间方面，基于图模式的解释方法与现有最先进图神经网络解释器相比，效率如何？

主要发现

• 在 MUTAG 数据集上，MotifExplainer 的推理时间在所有对比方法中最快，平均每张图仅需 0.02 秒。
• 与 PGExplainer（363 秒 vs. 740 秒）和 ReFine（363 秒 vs. 946 秒）相比，该方法的训练时间显著更短，证明了其训练效率的提升。
• 在合成数据集和真实世界数据集上，MotifExplainer 生成的解释在准确性和定性质量上均优于 GNNExplainer、PGExplainer、SubgraphX 和 ReFine。
• 基于注意力机制的图模式选择，带来了更一致且更具可解释性的解释，尤其在药物发现相关任务中，图模式的重复使用至关重要。
• 实证结果证实，基于图模式的解释比那些可能不具备重复性或统计显著性的子图解释更稳定、语义更明确。