[论文解读] Improving Interpretability in Medical Imaging Diagnosis using Adversarial Training

Andrei Margeloiu, Nikola Simidjievski+2 more|arXiv (Cornell University)|Dec 2, 2020

Explainable Artificial Intelligence (XAI)参考文献 22被引用 5

一句话总结

本文提出使用对抗性训练来提升卷积神经网络在皮肤癌诊断中的可解释性。通过训练模型以抵御对抗性扰动，作者表明显著更清晰且视觉上更连贯的显著性图被生成，突出了病灶中与黑色素瘤相关的颜色变化。其主要贡献在于证明了鲁棒模型在无需架构修改的情况下可产生更可靠、聚焦于病灶的解释。

ABSTRACT

We investigate the influence of adversarial training on the interpretability of convolutional neural networks (CNNs), specifically applied to diagnosing skin cancer. We show that gradient-based saliency maps of adversarially trained CNNs are significantly sharper and more visually coherent than those of standardly trained CNNs. Furthermore, we show that adversarially trained networks highlight regions with significant color variation within the lesion, a common characteristic of melanoma. We find that fine-tuning a robust network with a small learning rate further improves saliency maps' sharpness. Lastly, we provide preliminary work suggesting that robustifying the first layers to extract robust low-level features leads to visually coherent explanations.

研究动机与目标

• 探究对抗性训练是否能提升医学图像分类中的可解释性，特别是针对皮肤癌诊断。
• 评估对抗性训练模型是否能生成比标准模型更视觉连贯且更清晰的显著性图。
• 探索对鲁棒模型进行微调是否能进一步提升显著性图质量，同时保持高预测性能。
• 评估增强早期层的鲁棒性是否能提升深度网络中的特征提取与解释质量。
• 首次基于真实临床数据集，对医学影像中对抗性训练在可解释性方面的应用进行实证研究。

提出的方法

• 在 HAM10000 数据集上使用标准训练进行超参数调优，类别为三类：黑色素瘤、良性黑色素细胞痣和良性角化病。
• 使用 PGD 对抗攻击和 l₂ 范数扰动，从头开始重新训练相同模型，设置 ε = 4（针对 50,000 像素图像，按比例缩放）。
• 使用七步大小为 ε/5 的扰动增强，从随机噪声开始，并将对抗图像裁剪至 [0, 1] 范围。
• 使用标准训练中的相同超参数，以确保标准模型与鲁棒模型之间的公平比较。
• 应用显著性图方法（如梯度法与积分梯度法，IG）并使用统一基线，以解释模型预测结果。
• 使用较小的初始学习率（1e-5）对鲁棒模型的最后几层进行微调，逐步解除层的冻结，以在保持鲁棒性的同时提升性能。

实验结果

研究问题

• RQ1 对抗性训练是否能提升医学图像分类中显著性图的视觉连贯性与清晰度？
• RQ2 对抗性训练模型是否能更好地突出皮肤病灶中与黑色素瘤相关的特征（如颜色变化）？
• RQ3 使用小学习率对鲁棒模型进行微调是否能进一步提升显著性图质量？
• RQ4 将鲁棒的前几层与后几层的标准微调相结合，是否能同时提升预测准确率与解释质量？
• RQ5 在医学影像中，实现最清晰显著性图的最优对抗攻击强度 ε 是多少？

主要发现

• 与标准模型相比，对抗性训练模型生成的显著性图显著更清晰、视觉连贯性更强，显著性集中于皮肤病灶而非背景或无关特征。
• 鲁棒模型的显著性图突出了病灶内部显著的颜色变化区域——这是黑色素瘤的关键诊断指标，表明其临床相关性得到提升。
• 使用 1e-5 学习率对鲁棒模型的最后几层进行微调，可减少显著性图中的噪声，从而生成更清晰、更聚焦的解释。
• 对 ResNet-18 架构中的第 3–5 组进行微调，使模型准确率相比完全鲁棒模型提升了 3%，同时保持了更优的解释质量。
• 通过实验发现，最优对抗攻击强度 ε 位于 3 到 5 之间；ε ≥ 8 导致显著性图出现噪声，而 ε = 1 则使注意力转移到无关特征（如毛发）上。
• 使用积分梯度法生成的鲁棒模型显著性图清晰突出了黑色素瘤病灶中的颜色变化，表明其在形状与纹理特征归因方面表现更优。