[论文解读] IAIA-BL: A Case-based Interpretable Deep Learning Model for Classification of Mass Lesions in Digital Mammography

Alina Jade Barnett, Fides R. Schwartz+5 more|arXiv (Cornell University)|Mar 23, 2021

Explainable Artificial Intelligence (XAI)参考文献 54被引用 15

一句话总结

该论文提出IAIA-BL，一种基于案例的可解释深度学习模型，通过基于原型的分析模仿放射科医生的推理过程，用于数字乳腺X线摄影中肿块病变的分类。该模型在实现与黑箱模型相当的准确率的同时，突出显示了诸如肿块边缘等临床相关特征，减少了对混杂因素的依赖，并实现了透明的人机协作诊断。

ABSTRACT

Interpretability in machine learning models is important in high-stakes decisions, such as whether to order a biopsy based on a mammographic exam. Mammography poses important challenges that are not present in other computer vision tasks: datasets are small, confounding information is present, and it can be difficult even for a radiologist to decide between watchful waiting and biopsy based on a mammogram alone. In this work, we present a framework for interpretable machine learning-based mammography. In addition to predicting whether a lesion is malignant or benign, our work aims to follow the reasoning processes of radiologists in detecting clinically relevant semantic features of each image, such as the characteristics of the mass margins. The framework includes a novel interpretable neural network algorithm that uses case-based reasoning for mammography. Our algorithm can incorporate a combination of data with whole image labelling and data with pixel-wise annotations, leading to better accuracy and interpretability even with a small number of images. Our interpretable models are able to highlight the classification-relevant parts of the image, whereas other methods highlight healthy tissue and confounding information. Our models are decision aids, rather than decision makers, aimed at better overall human-machine collaboration. We do not observe a loss in mass margin classification accuracy over a black box neural network trained on the same data.

研究动机与目标

• 开发一种可解释的AI模型，以支持放射科医生在活检推荐等高风险决策中的判断，而非取代他们。
• 解决小样本乳腺X线数据集中混杂因素（如设备类型或患者年龄代理指标）带来的挑战，这些因素可能误导黑箱模型。
• 通过定位相关图像区域并将其与特定的BI-RADS特征（如肿块边缘特征）关联，实现反映实际临床推理过程的模型解释。
• 通过使模型推理与临床报告中使用的结构化术语表（如BI-RADS）对齐，提升泛化能力并增强信任感。
• 证明可解释模型在肿块边缘分类和恶性程度预测方面可达到甚至超越不可解释模型的性能。

提出的方法

• 该模型采用一种新颖的基于原型网络（ProtoPNet）的可解释神经网络架构，并通过梯度稳定化技术提升训练稳定性。
• 结合整体图像标签与像素级标注，从有限数据中学习临床有意义的特征（如肿块边缘特征）。
• 通过将输入图像与一组学习到的典型病例进行比较，实现基于案例的推理，其中每个原型代表一种特定的诊断特征（如边界清晰的边缘）。
• 模型通过突出显示与已知原型最相似的图像区域，并基于此证据分配恶性程度概率分数，生成解释。
• 采用精细化标注技术以减少标签中的混杂因素，确保放射科医生专注于诊断相关特征而非伪影或元数据。
• 该框架可扩展至其他BI-RADS特征（如肿块形态）及数字乳腺断层摄影等其他模态。

实验结果

研究问题

• RQ1 可解释的深度学习模型是否能在乳腺X线摄影中肿块病变分类任务上实现与黑箱模型相当的性能，同时提供临床意义明确的解释？
• RQ2 基于原型学习的案例推理在多大程度上能减少对成像设备或患者年龄代理等混杂因素的依赖？
• RQ3 该模型的推理过程在多大程度上能与放射科医生的临床决策过程及BI-RADS报告标准保持一致？
• RQ4 即使预测偶尔出错，该模型的可解释性是否能提升放射科医生与AI系统之间的信任与协作？
• RQ5 在小样本设置下，同时整合整体图像与像素级标注是否能提升模型的准确率与可解释性？

主要发现

• IAIA-BL在肿块恶性程度预测任务上达到0.91的AUROC，与同一测试集上专家放射科医生的性能（AUROC 0.91）相差约7%。
• 该模型在性能上与未经限制的端到端 VGG-16 黑箱模型相当（AUROC 0.87），同时提供了完整的可解释性。
• 与黑箱模型不同，IAIA-BL避免突出显示健康组织或设备伪影等混杂信息，而是专注于诊断相关特征（如肿块边缘）。
• 该模型的解释基于临床有意义的特征，其原型与已知的BI-RADS特征相对应，实现了可追溯且可验证的推理过程。
• 梯度稳定化技术提升了原型网络的训练稳定性，使其在临床环境中更具可靠性。
• 精细化标注流程显著减少了标签中混杂信息的使用，增强了模型对真正诊断特征的关注。