[论文解读] Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization

Shir Gur, Ameen Ali+1 more|arXiv (Cornell University)|Dec 3, 2020

Cell Image Analysis Techniques被引用 5

一句话总结

本文提出了一种新型方法——归属引导分解（AGF），该方法结合基于梯度和基于归属的可解释性技术，以在深度神经网络中生成类特定的高分辨率可视化结果。通过利用局部归属信息引导非负矩阵分解来纠正显著性偏差，AGF在基于梯度和基于归属的基准测试中均达到最先进性能，包括在自监督模型上的表现，表明这些模型隐式学习到了语义分割表征。

ABSTRACT

Neural network visualization techniques mark image locations by their relevancy to the network's classification. Existing methods are effective in highlighting the regions that affect the resulting classification the most. However, as we show, these methods are limited in their ability to identify the support for alternative classifications, an effect we name {\em the saliency bias} hypothesis. In this work, we integrate two lines of research: gradient-based methods and attribution-based methods, and develop an algorithm that provides per-class explainability. The algorithm back-projects the per pixel local influence, in a manner that is guided by the local attributions, while correcting for salient features that would otherwise bias the explanation. In an extensive battery of experiments, we demonstrate the ability of our methods to class-specific visualization, and not just the predicted label. Remarkably, the method obtains state of the art results in benchmarks that are commonly applied to gradient-based methods as well as in those that are employed mostly for evaluating attribution methods. Using a new unsupervised procedure, our method is also successful in demonstrating that self-supervised methods learn semantic information.

研究动机与目标

• 为解决现有可解释性方法在可视化非最高预测结果时因显著性偏差而倾向于关注显著特征而非相关物体区域的局限性。
• 开发一种统一方法，整合梯度与归属技术，实现在输入图像层面的每类、高分辨率可视化。
• 通过展示自监督学习模型通过可解释性技术隐式学习到类似语义分割的表征，实现对自监督学习模型的可靠评估。
• 纠正归属与梯度方法中存在的偏差，避免生成边缘状或非判别性热力图，从而提升对相关图像区域的定位精度。
• 建立一种新的无监督程序，用于评估自监督模型中的可解释性，此时真实标签不可用。

提出的方法

• AGF 使用非负矩阵分解（NMF）框架，将深层梯度信号与输入级归属图相结合，将特征图分解为前景与背景分量。
• 该方法引入基于局部归属信息的引导残差项，以纠正显著性偏差，确保不显著但相关的特征不会被忽略。
• 一种新颖的归属引导分解过程将输入特征图及其梯度划分为类特定分量，从而实现每类可解释性。
• 该方法采用无参数归一化方案以稳定训练过程，并保持跨层与跨模型的一致性。
• 对于自监督模型，AGF采用对比过程，将样本与其邻近样本进行比较，以生成伪标签用于可解释性评估。
• 该方法通过阈值化正向归属值生成分割图，对仅正向方法使用基于均值的阈值化，对双分支方法则使用正向部分。

实验结果

研究问题

• RQ1 是否存在一种统一方法，能够结合梯度与归属技术，生成克服现有方法局限性的类特定、高分辨率可视化结果？
• RQ2 现有方法中的显著性偏差在多大程度上阻碍了对非最高预测结果的准确可视化？
• RQ3 尽管缺乏真实标签，是否仍可通过可解释性技术评估自监督模型的语义理解能力？
• RQ4 所提出的归属引导分解方法在监督与自监督设置下，相较于基线方法，其定位精度提升了多少？
• RQ5 可解释性方法在监督与自监督模型上的性能是否具有相关性，这种相关性能否用于推断自监督学习中的语义学习？

主要发现

• AGF 在负样本扰动与基于分割的基准测试中均达到最先进性能，在所有数据集与指标上均超越九种基线方法。
• 定性与定量比较表明，AGF 显著提升了对最高预测类与第二高预测类相关图像区域的定位能力。
• 在自监督评估中，AGF 在 SCAN、SeLa 与 RotNet 模型的 ImageNet 数据集上，mAP 与像素准确率指标上均优于所有基线，证明了其隐式语义学习能力。
• 消融研究证实，若移除引导残差项或以 Grad-CAM 取代，则性能下降，验证了归属引导校正机制的重要性。
• 所提出的无监督自监督模型可解释性评估程序，通过将样本与其邻近样本进行比较，相比使用求和或不比较的替代方案，取得了更优结果。
• 结果表明，监督与自监督设置下的可解释性性能具有强相关性，暗示自监督模型学习到了语义上有意义的表征。