[论文解读] On Explainability of Graph Neural Networks via Subgraph Explorations

Hao Yuan, Haiyang Yu+3 more|arXiv (Cornell University)|Feb 9, 2021

Explainable Artificial Intelligence (XAI)参考文献 49被引用 89

一句话总结

SubgraphX 通过使用 Monte Carlo Tree Search 和基于 Shapley 值的评分并配以高效近似，识别重要的连通子图来解释 GNN 预测，从而在合理的计算成本下提升解释质量。

ABSTRACT

We consider the problem of explaining the predictions of graph neural networks (GNNs), which otherwise are considered as black boxes. Existing methods invariably focus on explaining the importance of graph nodes or edges but ignore the substructures of graphs, which are more intuitive and human-intelligible. In this work, we propose a novel method, known as SubgraphX, to explain GNNs by identifying important subgraphs. Given a trained GNN model and an input graph, our SubgraphX explains its predictions by efficiently exploring different subgraphs with Monte Carlo tree search. To make the tree search more effective, we propose to use Shapley values as a measure of subgraph importance, which can also capture the interactions among different subgraphs. To expedite computations, we propose efficient approximation schemes to compute Shapley values for graph data. Our work represents the first attempt to explain GNNs via identifying subgraphs explicitly and directly. Experimental results show that our SubgraphX achieves significantly improved explanations, while keeping computations at a reasonable level.

研究动机与目标

• 在 GNN 中超越节点/边解释，动机是需要子图级别的解释。
• 提出 SubgraphX，用于识别解释 GNN 预测的重要连通子图。
• 开发一个高效的基于 Shapley 值的评分和 Monte Carlo Tree Search 框架用于子图探索。
• 在图分类和节点分类任务中证明其有效性与高效性。

提出的方法

• 将解释形式化为在大小上限内寻找最重要的连通子图，使用 Score(f, G, Gi)。
• 使用 Monte Carlo Tree Search 来探索子图，结合基于剪枝的行动和受 UCB 启发的选择规则。
• 采纳 Shapley 值作为子图重要性分数，以捕捉图结构之间的相互作用。
• 通过将相互作用限制在 L 距离的邻域并通过对联盟进行 Monte Carlo 抽样来近似 Shapley 值。
• 通过对输入进行零填充扰动以计算边缘化贡献，在保持图结构的同时评估 f。

实验结果

研究问题

• RQ1 子图级别的解释是否比节点/边解释为 GNN 提供更直观、可靠的洞察？
• RQ2 如何量化子图重要性以考虑图组件之间的相互作用？
• RQ3 在使用基于 Shapley 值的评分时，解释的保真度与计算效率之间的权衡是什么？
• RQ4 SubgraphX 在图分类和节点/边预测任务中的表现如何？
• RQ5 在真实图上使 Shapley 值计算可扩展的实际近似方法有哪些？

主要发现

• SubgraphX 通过识别连接的子图而非孤立的边或节点，提供更便于人类理解的解释。
• Shapley 值评分捕捉子图之间的相互作用，并产生更忠实的解释。
• 在采用近似（L-hop 剪枝和对联盟的 Monte Carlo 抽样）后，SubgraphX 在保真度方面具有竞争力，同时成本远低于精确的 Shapley 计算。
• 在像 BA-2Motifs 和 MUTAG 这样的图上，SubgraphX 将与地面真实 motif 或化学相关组对应的关键子结构定位出来。
• 在不同数据集与模型（GCN/GAT/GIN）下，SubgraphX 在相同稀疏度水平下超越基线的保真度，且运行时间在合理范围内。
• SubgraphX 的解释仍适用于图分类、节点分类和链接预测任务。