[论文解读] GStarX: Explaining Graph Neural Networks with Structure-Aware Cooperative Games

Shichang Zhang, Yozen Liu+2 more|arXiv (Cornell University)|Jan 28, 2022

Advanced Graph Neural Networks被引用 11

一句话总结

GStarX 提出了一种基于合作博弈论中 Hamiache-Navarro (HN) 值的结构感知解释方法，用于图神经网络（GNNs），该方法通过受消息传递启发的合作机制，同时捕捉节点特征与结构角色。在化学和文本图数据集上，其解释保真度和稀疏性均优于基于 Shapley 值的基线方法。

ABSTRACT

Explaining machine learning models is an important and increasingly popular area of research interest. The Shapley value from game theory has been proposed as a prime approach to compute feature importance towards model predictions on images, text, tabular data, and recently graph neural networks (GNNs) on graphs. In this work, we revisit the appropriateness of the Shapley value for GNN explanation, where the task is to identify the most important subgraph and constituent nodes for GNN predictions. We claim that the Shapley value is a non-ideal choice for graph data because it is by definition not structure-aware. We propose a Graph Structure-aware eXplanation (GStarX) method to leverage the critical graph structure information to improve the explanation. Specifically, we define a scoring function based on a new structure-aware value from the cooperative game theory proposed by Hamiache and Navarro (HN). When used to score node importance, the HN value utilizes graph structures to attribute cooperation surplus between neighbor nodes, resembling message passing in GNNs, so that node importance scores reflect not only the node feature importance, but also the node structural roles. We demonstrate that GStarX produces qualitatively more intuitive explanations, and quantitatively improves explanation fidelity over strong baselines on chemical graph property prediction and text graph sentiment classification.

研究动机与目标

• 为解决 Shapley 值在 GNN 解释中的局限性，即其非结构感知特性，无法有效利用图拓扑结构。
• 提出 Hamiache-Navarro (HN) 值作为图机器学习中节点重要性评分的结构感知替代方法。
• 证明基于 HN 值的评分能更准确反映 GNN 预测中特征与结构的双重贡献。
• 开发 GStarX，一种将 HN 值与 GNN 消息传递语义相结合的实际解释方法。
• 在真实世界图数据集上验证 GStarX 在定性直观性与定量解释保真度方面的优越性。

提出的方法

• 基于 HN 值定义新的评分函数，其收益盈余分配基于结构邻域，而非均匀的联盟规模。
• 利用 HN 值通过结构感知权重聚合边际贡献来计算节点重要性，优先考虑连通联盟。
• 通过 top-k HN 评分节点诱导的子图生成解释，确保结构一致性。
• 利用 HN 盈余分配与 GNN 消息传递之间的相似性，使解释与模型推理过程对齐。
• 采用高效的近似技术实现 GStarX 的可扩展性，适用于大规模图。
• 使用基于熵的稀疏性度量评估生成解释的紧凑性与可解释性。

实验结果

研究问题

• RQ1 鉴于 Shapley 值的非结构感知特性，为何其在解释 GNN 预测时表现次优？
• RQ2 如何在合作博弈论解释方法中正式整合图结构以用于 GNN？
• RQ3 与 Shapley 值相比，HN 值在捕捉特征与结构角色方面，能在多大程度上更好地反映节点重要性？
• RQ4 像 GStarX 这类结构感知解释方法是否能实现比现有基线更高的保真度与更直观的子图解释？
• RQ5 GStarX 生成的解释稀疏性与理论参考分布相比如何，是否体现出更强的可解释性？

主要发现

• 在化学和文本图数据集上，GStarX 的解释保真度显著高于强基线方法，包括 SubgraphX 和 GraphSVX。
• GStarX 的基于熵的稀疏性得分（2.13–2.45）远低于 Uniform(n)（3.0–3.5），且接近 Poisson(0.25*n)，表明其解释高度紧凑且可解释。
• 在 MUTAG 数据集上，GStarX 的稀疏性得分为 2.2434，优于 Uniform(n)（2.8612），并接近理想的 Poisson(0.25*n) 基线。
• 由于采用局部盈余分配，GStarX 中基于 HN 值的解释能更准确识别结构关键节点，例如 -NO2 官能团中的氮原子。
• 定性分析表明，GStarX 的解释更具直观性，能正确排除孤立或语义无关的节点联盟（例如，句子中无 'bad' 的 'not' 和 'good'）。
• GStarX 的解释生成过程与 GNN 消息传递更一致，二者均依赖邻域聚合来传播重要性。