[论文解读] MEGAN: Multi-Explanation Graph Attention Network

Jonas Teufel, Luca Torresi+2 more|arXiv (Cornell University)|Nov 23, 2022

Explainable Artificial Intelligence (XAI)被引用 5

一句话总结

MEGAN 引入了一种自解释图神经网络，通过将解释通道与任务规范解耦，为图回归任务生成多个极性感知的归因解释。它采用可微分的、基于解释的联合训练，生成稀疏且高保真度的解释，与人类直觉一致，并在合成数据上实现近乎完美的解释准确率。

ABSTRACT

We propose a multi-explanation graph attention network (MEGAN). Unlike existing graph explainability methods, our network can produce node and edge attributional explanations along multiple channels, the number of which is independent of task specifications. This proves crucial to improve the interpretability of graph regression predictions, as explanations can be split into positive and negative evidence w.r.t to a reference value. Additionally, our attention-based network is fully differentiable and explanations can actively be trained in an explanation-supervised manner. We first validate our model on a synthetic graph regression dataset with known ground-truth explanations. Our network outperforms existing baseline explainability methods for the single- as well as the multi-explanation case, achieving near-perfect explanation accuracy during explanation supervision. Finally, we demonstrate our model's capabilities on multiple real-world datasets. We find that our model produces sparse high-fidelity explanations consistent with human intuition about those tasks.

研究动机与目标

• 为解决图回归中单一归因解释的局限性，此类解释无法捕捉对预测具有相反影响的因素（例如，正向与负向官能团）。
• 设计一种图神经网络，独立于预测任务生成多个解释通道，实现极性感知的解释。
• 实现基于解释的训练，使模型学习生成与真实解释匹配的解释。
• 通过联合训练解释通道以反映预期的解释（正向/负向影响），提升模型的可解释性与保真度。
• 在合成数据集和真实世界数据集上验证模型，证明其与人类直觉一致，并支持分子性质预测中的科学假设。

提出的方法

• MEGAN 使用多通道图注意力机制，为每个节点和边生成 K 个归因解释，其中 K 是与预测任务无关的超参数。
• 模型采用双损失函数进行训练：主预测损失和基于每个解释掩码的子图近似的解释损失。
• 解释联合训练通过仅使用该通道的掩码求解代理预测任务，促使每个通道根据其预期解释（如正向或负向影响）忠实地贡献于预测。
• 解释掩码具有可微性，支持基于梯度的端到端训练。
• 引入 Fidelity* 指标，用于评估解释通道与其预期解释之间的一致性。
• 该架构基于 KGCNN 使用 TensorFlow/Keras 实现，支持图分类与回归任务。

实验结果

研究问题

• RQ1 图神经网络能否在不依赖预测任务输出维度的前提下，为图回归任务生成多个极性感知的解释？
• RQ2 在合成数据上，基于解释的训练在多大程度上能帮助模型学习到真实解释？
• RQ3 所提出的解释联合训练过程能否确保每个解释通道与其预期解释（如正向与负向影响）保持一致？
• RQ4 MEGAN 的解释在真实世界图数据集上是否保持高保真度并符合人类直觉？
• RQ5 在缺乏先验人类直觉的情况下，MEGAN 是否能支持分子性质预测中的科学假设生成？

主要发现

• 在具有已知真实解释的合成图回归数据集上，MEGAN 在基于解释的联合训练期间实现了近乎完美的解释准确率，显著优于先前的基线方法。
• MEGAN 生成了稀疏且高保真度的解释，在多个真实世界数据集（包括分子性质预测任务）上与人类直觉保持一致。
• 解释联合训练过程有效引导每个通道反映其预期解释，该结果通过 Fidelity* 指标得到验证。
• 在首次合成实验中，预测性能在基于解释的联合训练过程中得到提升，表明在某些设置下，解释监督可增强主任务性能。
• 在缺乏常见人类直觉的真实分子性质预测任务中，MEGAN 支持了先前发表的假设，并提出了新的潜在解释性基序。
• 该模型对解释泄漏和翻转具有鲁棒性，尽管这些罕见问题通过超参数调优和训练后 Fidelity* 分析得以缓解。