[论文解读] Preserve, Promote, or Attack? GNN Explanation via Topology Perturbation

Yi Sun, Abel N. Valente+2 more|arXiv (Cornell University)|Mar 25, 2021

Explainable Artificial Intelligence (XAI)参考文献 45被引用 5

一句话总结

本文提出了一种统一的、交互式的GNN解释框架GNNViz，通过稀疏拓扑扰动支持三种用户模式：保持（事实性解释）、提升（改善预测）和攻击（对抗鲁棒性测试）。该框架引入了一种可微分的、拓扑感知的优化方法，用于识别关键边，在图像分类和社会网络偏见检测任务中均表现出有效性。

ABSTRACT

Prior works on formalizing explanations of a graph neural network (GNN) focus on a single use case - to preserve the prediction results through identifying important edges and nodes. In this paper, we develop a multi-purpose interpretation framework by acquiring a mask that indicates topology perturbations of the input graphs. We pack the framework into an interactive visualization system (GNNViz) which can fulfill multiple purposes: Preserve,Promote, or Attack GNN's predictions. We illustrate our approach's novelty and effectiveness with three case studies: First, GNNViz can assist non expert users to easily explore the relationship between graph topology and GNN's decision (Preserve), or to manipulate the prediction (Promote or Attack) for an image classification task on MS-COCO; Second, on the Pokec social network dataset, our framework can uncover unfairness and demographic biases; Lastly, it compares with state-of-the-art GNN explainer baseline on a synthetic dataset.

研究动机与目标

• 解决缺乏支持非专家用户解释和操作GNN预测的多用途GNN解释工具的问题。
• 克服现有GNN解释器仅支持单一使用场景（如保持预测）的局限性。
• 开发一个交互式可视化系统，使用户能够探索、修改并分析图拓扑如何影响GNN决策。
• 通过支持预测改进（提升）和对抗性操作（攻击）来实现事实性和反事实性解释用例。
• 在真实世界任务中展示该框架的实用性，例如图像分类和社会网络偏见检测。

提出的方法

• 将GNN解释建模为拓扑扰动问题，通过优化稀疏的边增加与删除来影响模型预测。
• 设计一种可微分的优化框架，计算基于梯度的边重要性评分，从而实现对组合性拓扑变化的高效搜索。
• 实现一个统一的目标函数，支持三种模式：保持（维持预测）、提升（改善预测）和攻击（使预测偏离正确标签）。
• 将优化方法与基于D3.js和力导向布局的交互式可视化系统（GNNViz）集成，实现实时用户交互。
• 以图卷积网络（GCN）作为目标GNN模型，并基于扰动子图计算预测变化。
• 在GNNViz中应用超参数控制，允许用户指定要添加或删除的边数，支持迭代探索。

实验结果

研究问题

• RQ1 统一的GNN解释框架是否能通过拓扑扰动支持多种用户目标——保持、提升和攻击？
• RQ2 图拓扑在多大程度上影响GNN预测结果？这种影响能否通过边重要性实现定量测量？
• RQ3 交互式可视化系统是否能帮助非专家用户有效解释和操作GNN决策？
• RQ4 与最先进GNN解释器相比，该方法在识别有意义的拓扑变化方面表现如何？
• RQ5 该框架是否能揭示现实世界图数据（如社交网络）中的隐藏偏见和漏洞？

主要发现

• GNNViz成功识别出影响GNN预测的关键边，例如在MS–COCO数据集中，Person–Motorcycle边的连接与误分类存在相关性。
• 在提升模式下，系统正确建议添加Chair–Handbag边以提升预测准确率，GCN模型在重新评估后正确将该样本分类为Handbag。
• 在攻击模式下，系统识别出最小的拓扑变化——增加WineGlass–Motorcycle边并删除Handbag–Person边——成功使GCN预测转向错误标签（Wine Glass）。
• 该框架通过揭示拓扑扰动对预测公平性的影响，有效揭示了Pokec社交网络数据集中存在的种族偏见。
• 与最先进GNN解释基线相比，GNNViz在合成数据集上识别相关拓扑变化方面表现出更优性能，尤其在反事实和事实性解释任务中。
• 交互式可视化系统使用户能够实时探索和验证预测变化，显著提升了对GNN决策的可解释性和信任度。