[论文解读] Contrastive Graph Neural Network Explanation

Lukas Faber, Amin K. Moghaddam+1 more|arXiv (Cornell University)|Oct 26, 2020

Explainable Artificial Intelligence (XAI)参考文献 33被引用 12

一句话总结

该论文提出 CoGE，一种对比图神经网络解释方法，通过仅使用训练分布一致的图来生成解释，从而确保分布合规解释（DCE）。在合成 CYCLIQ 数据集上，CoGE 相较于 GNNExplainer 和 occlusion 等现有方法，解释准确率最高提升 10%，在团检测任务上达到近乎完美的准确率（99%），并通过消融研究保持了鲁棒性。

ABSTRACT

Graph Neural Networks achieve remarkable results on problems with structured data but come as black-box predictors. Transferring existing explanation techniques, such as occlusion, fails as even removing a single node or edge can lead to drastic changes in the graph. The resulting graphs can differ from all training examples, causing model confusion and wrong explanations. Thus, we argue that explicability must use graphs compliant with the distribution underlying the training data. We coin this property Distribution Compliant Explanation (DCE) and present a novel Contrastive GNN Explanation (CoGE) technique following this paradigm. An experimental study supports the efficacy of CoGE.

研究动机与目标

• 解决由于移除节点或边后图结构发生剧烈变化而导致图神经网络（GNN）产生误导性解释的问题。
• 论证解释必须保持在训练过程中所见的数据分布范围内，以避免与对抗性攻击混淆。
• 提出一种新颖的解释方法 CoGE，通过仅使用真实且符合训练分布的图，实现分布合规解释（DCE）。
• 通过在合成图数据集和真实图数据集上的实证验证，证明 CoGE 在性能上优于现有解释技术（如 occlusion、敏感性分析和 GNNExplainer）。

提出的方法

• CoGE 使用对比学习范式，识别使输入图与同标签图相似、与异标签图不相似的图子结构。
• 基于输入图与参考图的节点嵌入分布之间的最优传输（OT）距离定义损失函数，以促进对结构重要性的忠实表示。
• 该方法优化三项损失项：一项用于最大化与同标签图的相似性（$\mathcal{L}_{W}^{\approx}$），一项用于最小化与异标签图的相似性（$\mathcal{L}_{W}^{\not\approx}$），以及一项用于强制标签一致性（$\mathcal{L}_{W}^{=}$）。
• 通过学习到的对比表示计算边重要性得分，聚焦于最有助于区分输入图与负样本图的边。
• 该方法避免修改原始图结构，从而保持分布合规性，避免产生类似对抗性扰动的干扰。
• 它利用预训练的 GNN 提取节点嵌入，并通过最优传输计算相似性，确保解释过程与模型特性相适应。

实验结果

研究问题

• RQ1 GNN 的解释方法能否避免因图结构偏离分布而导致的误导性解释？
• RQ2 基于真实训练图的对比解释方法，在准确率和鲁棒性方面，相较于 occlusion 和 GNNExplainer 等现有方法表现如何？
• RQ3 在图分类任务中，强制实施分布合规性在多大程度上提升了解释质量？
• RQ4 对比损失函数中的每一项对最终解释性能的贡献如何？
• RQ5 CoGE 能否在不同图结构（如环和团）上泛化？其在合成数据集与真实世界数据集上的表现如何？

主要发现

• 在 CYCLIQ 数据集的团检测任务中，CoGE 达到 99% 的解释准确率，显著优于 GNNExplainer（73%）和 occlusion（86%）。
• 在环检测任务中，CoGE 达到 78% 的准确率，超过所有基线方法，包括 GNNExplainer（43%）和 occlusion（39%）。
• 消融研究显示，$\mathcal{L}_{W}^{\not{\approx}}$ 对性能贡献最大，但将其与 $\mathcal{L}_{W}^{\approx}$ 和 $\mathcal{L}_{W}^{=}$ 结合可进一步提升准确率。
• 若将最优传输替换为平均嵌入的欧氏距离，性能显著下降，表明 OT 在有效捕捉结构差异方面至关重要。
• CoGE 在不同超参数设置下均保持高性能，表明其对参数选择具有鲁棒性。
• 可视化结果证实，CoGE 正确识别出团和环的边为最重要，而其他方法（如 occlusion）因拓扑结构破坏而错误地强调了不相关的边。