[论文解读] Towards Prototype-Based Self-Explainable Graph Neural Network

Enyan Dai, Suhang Wang|arXiv (Cornell University)|Oct 5, 2022

Advanced Graph Neural Networks被引用 6

一句话总结

该论文提出PxGNN，一种基于原型的自解释图神经网络，通过为每个类别学习具有代表性的原型图，实现高精度预测与可解释的、基于原型的解释。通过联合优化图重建与分类任务，利用自监督学习和嵌入正则化，PxGNN在真实世界和合成数据集上均实现了当前最优的准确率与解释质量。

ABSTRACT

Graph Neural Networks (GNNs) have shown great ability in modeling graph-structured data for various domains. However, GNNs are known as black-box models that lack interpretability. Without understanding their inner working, we cannot fully trust them, which largely limits their adoption in high-stake scenarios. Though some initial efforts have been taken to interpret the predictions of GNNs, they mainly focus on providing post-hoc explanations using an additional explainer, which could misrepresent the true inner working mechanism of the target GNN. The works on self-explainable GNNs are rather limited. Therefore, we study a novel problem of learning prototype-based self-explainable GNNs that can simultaneously give accurate predictions and prototype-based explanations on predictions. We design a framework which can learn prototype graphs that capture representative patterns of each class as class-level explanations. The learned prototypes are also used to simultaneously make prediction for for a test instance and provide instance-level explanation. Extensive experiments on real-world and synthetic datasets show the effectiveness of the proposed framework for both prediction accuracy and explanation quality.

研究动机与目标

• 为解决图神经网络中可解释性不足的问题，该问题限制了其在药物发现、金融分析等高风险应用场景中的应用。
• 开发一种自解释图神经网络框架，提供高精度预测与忠实的、基于原型的解释，而无需依赖事后解释方法。
• 学习高质量、具有代表性的原型图，以捕捉各类别在图结构数据中的关键结构与特征模式，实现类别级与实例级解释。
• 通过引入自监督学习与嵌入正则化，确保原型生成过程具备灵活性、可扩展性与鲁棒性。

提出的方法

• 引入原型生成网络，从潜在空间中学习并生成每个类别的真实原型图。
• 通过图重建损失实现自监督训练，提升生成原型的质量与真实性。
• 引入约束项对原型嵌入进行正则化，使其保持在期望的潜在空间内，确保原型的结构与语义保真度。
• 采用多任务损失函数，联合优化分类准确率与原型质量，该损失函数结合交叉熵损失与基于轮廓系数的多样性监督。
• 通过将测试图与最相似的原型图匹配，生成实例级解释，解释内容为：该测试实例最类似于哪一个原型。
• 该框架具有灵活性，可与多种图神经网络主干网络（如GCN与GIN）结合，展现出跨架构的泛化能力。

实验结果

研究问题

• RQ1 如何设计基于原型的自解释图神经网络，以同时实现高预测准确率与高质量解释？
• RQ2 在图结构数据中，学习高质量、具有代表性的原型图以反映真实类别模式，其关键组件是什么？
• RQ3 自监督学习与嵌入正则化如何提升原型质量与整体模型性能？
• RQ4 每类最优原型数量是多少？该数量如何影响模型准确率与解释多样性？
• RQ5 该框架对超参数（如重建损失权重α与嵌入正则化强度β）的敏感性如何？

主要发现

• PxGNN在节点分类与图分类任务中均达到当前最优性能，在Cora、PubMed与Graph-SST2等真实世界数据集上优于现有基线模型。
• 随着每类原型数量的增加，原型的轮廓系数上升，表明其多样性与代表性增强；而准确率在中等数量原型时达到峰值。
• 消融实验表明，若移除自监督（α=0）或嵌入约束（β=0），准确率与原型质量均显著下降，证明二者对模型性能至关重要。
• 在初始化后固定原型图（PxGNN\P）会导致性能大幅下降，证明通过生成器动态更新原型对模型性能至关重要。
• 超参数敏感性分析表明，当α ∈ [1,10]且β ∈ [1,3]时，模型性能达到最优，实现了重建与分类目标之间的良好平衡。
• 当将GCN主干替换为GIN时，PxGNN仍保持强性能，证实其在架构上的灵活性与鲁棒性。