[论文解读] XProtoNet: Diagnosis in Chest Radiography with Global and Local Explanations

Eunji Kim, Siwon Kim+2 more|arXiv (Cornell University)|Mar 19, 2021

COVID-19 diagnosis using AI参考文献 35被引用 7

一句话总结

XProtoNet 是一种用于胸部X光片诊断的新型可解释深度学习框架，通过从自适应区域学习动态、疾病特异的原型，提供全局（类别代表性特征）和局部（实例特异性依据）解释。尽管具有强烈的可解释性约束，它在 NIH 胸部X光片数据集上仍达到了最先进的性能，平均 AUC 为 0.850。

ABSTRACT

Automated diagnosis using deep neural networks in chest radiography can help radiologists detect life-threatening diseases. However, existing methods only provide predictions without accurate explanations, undermining the trustworthiness of the diagnostic methods. Here, we present XProtoNet, a globally and locally interpretable diagnosis framework for chest radiography. XProtoNet learns representative patterns of each disease from X-ray images, which are prototypes, and makes a diagnosis on a given X-ray image based on the patterns. It predicts the area where a sign of the disease is likely to appear and compares the features in the predicted area with the prototypes. It can provide a global explanation, the prototype, and a local explanation, how the prototype contributes to the prediction of a single image. Despite the constraint for interpretability, XProtoNet achieves state-of-the-art classification performance on the public NIH chest X-ray dataset.

研究动机与目标

• 为解决基于深度学习的医学诊断中可解释性不足的问题，特别是在胸部X光片诊断中的问题。
• 开发一种能够为诊断预测提供全局和局部解释的模型，以提升临床信任度。
• 通过在动态、与疾病相关的区域中学习原型，克服基于原型模型中固定尺寸补丁的局限性。
• 在保持显式、人类可理解的推理过程的同时，通过基于原型的分类实现高性能诊断。
• 利用先验知识（例如边界框标注）实现可控诊断，使原型与临床相关的特征对齐。

提出的方法

• XProtoNet 从胸部X光片图像中的自适应、动态区域学习疾病代表性原型，而非固定尺寸的补丁。
• 它使用可学习的注意力机制预测疾病体征可能出现的区域。
• 该模型将测试图像中预测出现区域的特征与学习到的原型进行比较，以完成诊断。
• 通过聚类损失和分离损失对原型进行优化，以确保其代表具有区分性的、疾病特异的特征。
• 通过边界框标注施加先验条件，将原型限制在临床相关的区域，提高与真实标签的对齐度。
• 该框架采用 ResNet-50 主干网络，并在出现图上引入 L1 损失，以抑制目标区域外的虚假激活。

实验结果

研究问题

• RQ1 基于深度学习的胸部X光片诊断模型是否能在保持高性能的同时，同时提供全局和局部解释？
• RQ2 与固定尺寸补丁方法相比，在动态、疾病特异区域中学习原型是否能提升诊断准确率和可解释性？
• RQ3 模型是否能通过边界框标注引导，学习到与临床相关解剖特征对齐的原型？
• RQ4 在无额外监督的情况下，像 XProtoNet 这类可解释模型的性能与最先进的黑箱模型相比如何？
• RQ5 通过先验条件将原型限制在特定区域，在多大程度上影响诊断性能和模型可信度？

主要发现

• XProtoNet 在 NIH 胸部X光片数据集上实现了 0.850 的平均 AUC，优于先前的最先进方法。
• 该模型在无需额外边界框监督的情况下达到最先进性能，证明了其强大的泛化能力。
• 当使用边界框标注作为先验条件进行训练时，XProtoNet 维持了几乎相同的性能（平均 AUC 0.850 vs. 0.849），证实了其鲁棒性。
• 可视化结果表明，学习到的原型在空间上与疾病相关区域对齐，并有效代表了类别区分性特征。
• XProtoNet 有效提供了全局解释（每种疾病的原型）和局部解释（每个原型对特定图像预测的贡献）。
• 该框架表明，强烈的可解释性约束并不会损害诊断性能，使其适合临床部署。