[论文解读] Explaining Dynamic Graph Neural Networks via Relevance Back-propagation

Jiaxuan Xie, Yezi Liu+1 more|arXiv (Cornell University)|Jul 22, 2022

Advanced Graph Neural Networks被引用 7

一句话总结

本文提出 DGExplainer，一种新颖的框架，通过相关性反向传播技术解释动态图神经网络（DGNNs），实现从输出到输入特征的贡献追踪。该方法在时变图中识别关键节点方面实现了高保真度、稀疏性和稳定性，优于 PeMS04 和 Enron 等真实世界数据集上的现有方法。

ABSTRACT

Graph Neural Networks (GNNs) have shown remarkable effectiveness in capturing abundant information in graph-structured data. However, the black-box nature of GNNs hinders users from understanding and trusting the models, thus leading to difficulties in their applications. While recent years witness the prosperity of the studies on explaining GNNs, most of them focus on static graphs, leaving the explanation of dynamic GNNs nearly unexplored. It is challenging to explain dynamic GNNs, due to their unique characteristic of time-varying graph structures. Directly using existing models designed for static graphs on dynamic graphs is not feasible because they ignore temporal dependencies among the snapshots. In this work, we propose DGExplainer to provide reliable explanation on dynamic GNNs. DGExplainer redistributes the output activation score of a dynamic GNN to the relevances of the neurons of its previous layer, which iterates until the relevance scores of the input neuron are obtained. We conduct quantitative and qualitative experiments on real-world datasets to demonstrate the effectiveness of the proposed framework for identifying important nodes for link prediction and node regression for dynamic GNNs.

研究动机与目标

• 解决动态图神经网络（DGNNs）日益广泛应用但仍是黑箱模型所面临的可解释性方法缺失问题。
• 克服现有静态 GNN 解释方法在捕捉演化图结构中时间依赖性方面的局限性。
• 开发一种忠实、非对抗性的解释框架，确保在输入扰动下保持模型保真度和稳定性。
• 通过在时间和图组件上分解相关性分数，实现对 DGNN 预测结果的可靠解释。

提出的方法

• 提出一种反向传播机制，通过逐层相关性传播（LRP）将输出激活分数重新分配至输入特征。
• 将 DGNN 的预测分解为时间相关模块和图相关模块，分别计算其相关性。
• 从最后一层开始，通过 GRU 和 GCN 组件反向传播相关性分数，为每个时间戳的节点特征分配重要性。
• 将时间步上的相关性分数聚合，生成编码时间依赖性的综合解释。
• 使用固定的 epsilon（ε = 0.0001）稳定相关性传播，避免除零错误。
• 将该框架应用于动态图数据上的链接预测和节点回归任务。

实验结果

研究问题

• RQ1 如何可靠地解释随时间演化的动态 GNN 所做出的预测？
• RQ2 相关性反向传播能否有效捕捉动态图中节点重要性的时序演化？
• RQ3 与现有解释基线相比，所提方法在保真度、稀疏性和稳定性方面表现如何？
• RQ4 该解释框架在保持对小输入扰动的鲁棒性的同时，能在多大程度上维持模型保真度？
• RQ5 该方法能否识别出图快照中节点贡献的有意义且随时间变化的模式？

主要发现

• DGExplainer 在大多数数据集上实现了最高的保真度分数，尤其在遮蔽前 k 个关键节点后仍能保持最佳预测准确率。
• 该方法实现了最高的稀疏性，表明其能有效识别出对模型预测至关重要的最小关键节点集合。
• 在稳定性评估中，DGExplainer 优于 Grad × Input（0.211 vs. 0.286 平均值），与 SA 相当，尽管在某些情况下略逊于 SA。
• 在 PeMS04 上的定性可视化显示，DGExplainer 正确识别出在 t=1 和 t=2 时节点 7 具有高度影响力，且在 t=2 时节点 8 因新兴交通模式而变得突出。
• 该框架成功编码了时间依赖性，相关性分数在时间戳之间发生有意义的转移，以反映图动态的演变。
• 在六个真实世界数据集上的实证结果表明，DGExplainer 为链接预测和节点回归任务均提供了忠实、稀疏且稳定的解释。