[论文解读] Explain Graph Neural Networks to Understand Weighted Graph Features in Node Classification

Xiaoxiao Li, João Saúde|arXiv (Cornell University)|Feb 2, 2020

Advanced Graph Neural Networks参考文献 18被引用 4

一句话总结

该论文提出了一种新颖的框架，用于解释加权有向图上的图神经网络（GNN）在节点分类任务中的决策过程，通过识别信息性组件（边模式）和节点特征重要性来实现。该框架引入了事后解释方法——MMI mask 和 GGD，并构建了一个分离拓扑结构与特征贡献的流程，实验证明其解释结果与人类推理一致，数据集涵盖合成数据集和真实世界数据集（如PubMed和Bitcoin OTC）。

ABSTRACT

Real data collected from different applications that have additional topological structures and connection information are amenable to be represented as a weighted graph. Considering the node labeling problem, Graph Neural Networks (GNNs) is a powerful tool, which can mimic experts' decision on node labeling. GNNs combine node features, connection patterns, and graph structure by using a neural network to embed node information and pass it through edges in the graph. We want to identify the patterns in the input data used by the GNN model to make a decision and examine if the model works as we desire. However, due to the complex data representation and non-linear transformations, explaining decisions made by GNNs is challenging. In this work, we propose new graph features' explanation methods to identify the informative components and important node features. Besides, we propose a pipeline to identify the key factors used for node classification. We use four datasets (two synthetic and two real) to validate our methods. Our results demonstrate that our explanation approach can mimic data patterns used for node classification by human interpretation and disentangle different features in the graphs. Furthermore, our explanation methods can be used for understanding data, debugging GNN models, and examine model decisions.

研究动机与目标

• 解决在加权有向图中解释GNN决策的挑战，其中节点特征和边特征均影响分类结果。
• 开发事后解释方法，识别在GNN预测中最具影响力的图组件（边和节点特征）。
• 构建一个流程，以分离拓扑结构与节点特征在GNN分类中的主导作用。
• 通过一致性、对比性和稀疏性指标在真实和合成数据集上评估解释质量。
• 验证解释结果是否与人类理解一致，并支持模型调试、信任建立和特征工程。

提出的方法

• 提出两种解释视角：信息性组件检测（聚焦于边模式）和节点特征重要性（聚焦于特征相关性）。
• 将CNN可视化技术（如Grad-CAM、LRP）适配至加权有向图上的GNN，支持边权重和节点特征。
• 引入两种解释方法：MMI mask（最大意义子图）和GGD（基于梯度的图解缠绕），用于识别关键子图和特征贡献。
• 利用距离图和相似性图，分离拓扑结构（连通性模式）与节点特征在分类决策中的作用。
• 采用包含评估指标的流程：一致性（类内相似性）、对比性（类间差异性）和稀疏性（高重要性边数量少），以验证解释质量。
• 将该框架应用于四个数据集：两个合成数据集（SynComp, SynNode）和两个真实数据集（PubMed, Bitcoin OTC），GNN在节点分类任务上进行训练。

实验结果

研究问题

• RQ1 在加权有向图中，哪些边模式和节点特征对GNN的节点分类决策最具影响力？
• RQ2 解释方法能否识别出与人类对图结构和特征重要性理解一致的组件？
• RQ3 在不同类型的图中，拓扑结构还是节点特征在GNN分类中占主导地位？
• RQ4 如何在图级别可解释性中对解释质量进行定量评估？
• RQ5 解缠后的解释能否揭示不同节点类别之间的群体相似性与可区分模式？

主要发现

• 在PubMed数据集上，GGD方法的一致性得分为2.14，对比性得分为2.07，稀疏性为0.049，表明其生成了高质量且稀疏的解释。
• 在Bitcoin OTC数据集上，MMI mask方法的一致性为1.81，对比性为2.45，稀疏性为0.132，显示出优异的判别性能。
• 距离图显示，在SynComp中拓扑结构是关键因素（类内距离较小），而在SynNode和PubMed中节点特征占主导地位。
• 相似性图显示SynNode和PubMed中存在显著的类内相似性，证实节点特征是这些数据集中主要的分类信号。
• MMI mask检测到的信息性组件与人类定义的规则一致：高风险节点具有负向评分，可信节点具有高正向评分，中性节点则有大量评分1。
• 解释流程成功解缠了拓扑结构与特征的贡献，实现了GNN决策的可调试性与透明化。