[论文解读] DEGREE: Decomposition Based Explanation For Graph Neural Networks

Qizhang Feng, Ninghao Liu+4 more|arXiv (Cornell University)|May 22, 2023

Explainable Artificial Intelligence (XAI)被引用 5

一句话总结

DEGREE 提出了一种基于分解的图神经网络（GNN）解释方法，通过追踪 GNN 消息传递机制中图组件的贡献，实现对节点和子图相互作用的忠实、非加法式解释。该方法通过利用结构分解和子图聚合，无需扰动或替代模型，在节点分类和图分类任务中实现了最先进水平的忠实度。

ABSTRACT

Graph Neural Networks (GNNs) are gaining extensive attention for their application in graph data. However, the black-box nature of GNNs prevents users from understanding and trusting the models, thus hampering their applicability. Whereas explaining GNNs remains a challenge, most existing methods fall into approximation based and perturbation based approaches with suffer from faithfulness problems and unnatural artifacts, respectively. To tackle these problems, we propose DEGREE \degree to provide a faithful explanation for GNN predictions. By decomposing the information generation and aggregation mechanism of GNNs, DEGREE allows tracking the contributions of specific components of the input graph to the final prediction. Based on this, we further design a subgraph level interpretation algorithm to reveal complex interactions between graph nodes that are overlooked by previous methods. The efficiency of our algorithm can be further improved by utilizing GNN characteristics. Finally, we conduct quantitative and qualitative experiments on synthetic and real-world datasets to demonstrate the effectiveness of DEGREE on node classification and graph classification tasks.

研究动机与目标

• 为解决 GNN 预测缺乏忠实、细粒度解释的问题，因其黑箱特性而难以解释。
• 克服基于近似或扰动的解释方法的局限性，这些方法存在忠实度低和不自然伪影的问题。
• 实现能够捕捉图组件之间复杂非线性相互作用的子图级别解释。
• 设计一种直接分析 GNN 前向传播的方法，无需依赖替代模型或输入扰动。
• 通过在解释生成过程中利用 GNN 特有的结构特性，确保计算效率。

提出的方法

• DEGREE 对 GNN 中的消息传递机制进行分解，以隔离不同节点组对最终预测的贡献。
• 针对常见 GNN 层（如 GCN、GAT）设计特定的分解方案，以追踪来自输入图组件的信息流。
• 采用子图聚合算法，结合拓扑结构与 DEGREE 分数，识别有意义的子图集合作为解释。
• 该方法避免使用加法归因，从而能够检测图组件之间的非线性相互作用。
• 通过分析原生前向传播过程确保解释的忠实度，而非依赖近似或扰动。
• 通过重用 GNN 内置的前向传播计算图提升效率。

Figure 1: Illustration of the DEGREE for decomposing GCN. Node features or latent embeddings contain target portion (orange hemisphere) and an background portion (blue hemisphere). (a)-(c) show the workflow of the GCN, exhibiting only the messages aggregation for node A. (d) demonstrates message agg

实验结果

研究问题

• RQ1 基于分解的方法是否能比现有基于近似或扰动的方法提供更忠实的 GNN 预测解释？
• RQ2 DEGREE 在节点分类和图分类任务中，能否有效捕捉图组件之间的复杂非线性相互作用？
• RQ3 在合成数据集和真实世界图数据集上，DEGREE 在解释忠实度方面相较于最先进基线方法的优越程度如何？
• RQ4 DEGREE 是否能有效识别语义上有意义的子图（如分子图中的功能基团），这些子图对预测有贡献？
• RQ5 该方法在不同 GNN 架构下，其效率表现如何，同时保持高忠实度解释？

主要发现

• 在节点分类任务中，DEGREE 实现了最先进的解释 AUC，相较于基线方法在 BA-Community 上提升了约 9%，在 MUTAG 上提升了约 5%。
• 该方法在 GCN 和 GAT 模型上均表现出强大的忠实度，表明其对不同 GNN 架构具有广泛的适应性。
• 定性分析显示，DEGREE 正确识别出 MUTAG 中的 "NO2" 和 "NH2" 等关键基团为强致突变指示物，与化学知识一致。
• 在 Graph-SST2 中，DEGREE 检测到句子不同部分之间的非线性相互作用（如虚拟语气），能够解释正确与错误预测。
• 子图聚合算法成功揭示了复杂结构模式，包括 "CH3" 与其他基团之间的负向相互作用，这些是导致模型错误的原因。
• DEGREE 通过重用前向传播计算图实现高效率，且无需额外训练。

Figure 2: The subgraph agglomeration results on MUTAG dataset. The first row shows a correct prediction. The second and the third row report two typical examples of errors. Red is mutagenic, blue is non-mutagenic, gray is not selected. The colored edges link the selected nodes. The process goes from