[论文解读] Explainable AI based Glaucoma Detection using Transfer Learning and LIME

Touhidul Islam Chayan, Anita Islam+4 more|arXiv (Cornell University)|Oct 7, 2022

Retinal Imaging and Analysis被引用 8

一句话总结

本文提出了一种基于迁移学习的青光眼检测模型，采用ResNet50架构，验证准确率达到94.71%，并集成LIME以提升可解释性，从而解决深度学习在医学影像中存在黑箱问题。该系统通过可视化影响视网膜图像预测的关键特征，增强了临床信任。

ABSTRACT

Glaucoma is the second driving reason for partial or complete blindness among all the visual deficiencies which mainly occurs because of excessive pressure in the eye due to anxiety or depression which damages the optic nerve and creates complications in vision. Traditional glaucoma screening is a time-consuming process that necessitates the medical professionals' constant attention, and even so time to time due to the time constrains and pressure they fail to classify correctly that leads to wrong treatment. Numerous efforts have been made to automate the entire glaucoma classification procedure however, these existing models in general have a black box characteristics that prevents users from understanding the key reasons behind the prediction and thus medical practitioners generally can not rely on these system. In this article after comparing with various pre-trained models, we propose a transfer learning model that is able to classify Glaucoma with 94.71\% accuracy. In addition, we have utilized Local Interpretable Model-Agnostic Explanations(LIME) that introduces explainability in our system. This improvement enables medical professionals obtain important and comprehensive information that aid them in making judgments. It also lessen the opacity and fragility of the traditional deep learning models.

研究动机与目标

• 自动化青光眼分类，以减少对耗时的人工筛查的依赖。
• 为医疗专业人员提供模型预测的可解释洞察，以增强对基于人工智能诊断的信任。
• 通过用可解释的人工智能系统替代人工评估，减轻工作负担并减少人为错误。
• 改善青光眼，尤其是开角型青光眼的早期检测，以预防不可逆的视力损伤。
• 通过集成局部可解释模型无关解释（LIME）实现特征级别的可解释性，解决深度学习模型的不透明性问题。

提出的方法

• 在基准青光眼眼底图像数据集上微调多个预训练的CNN模型——VGG-16、VGG-19、DenseNet121、InceptionV3和ResNet50。
• 采用迁移学习方法，使用ImageNet预训练权重，将模型适配于青光眼分类任务，训练周期为50个轮次。
• 采用Adam优化器，基础初始学习率为1e-5，以优化模型训练过程。
• 应用LIME通过扰动输入图像并分析特征对预测的贡献，生成局部、实例级别的解释。
• 生成视觉显著性图，突出显示在分类决策中最具影响力的视网膜图像区域。
• 通过准确率、损失和两类（青光眼与非青光眼）的误分类率评估模型性能。

实验结果

研究问题

• RQ1 在使用迁移学习时，哪种预训练深度学习模型在眼底图像上的青光眼检测中表现最佳？
• RQ2 LIME如何增强基于深度学习的青光眼检测系统中的可解释性？
• RQ3 LIME的集成在多大程度上提升了临床医生对人工智能驱动的青光眼诊断的信任？
• RQ4 模型架构对青光眼分类任务中的泛化能力和过拟合现象有何影响？
• RQ5 误分类图像在特征重要性模式上与正确分类图像有何不同？

主要发现

• ResNet50在验证集上达到最高的验证准确率94.71%，优于VGG-19（93.31%）、VGG-16（88.63%）、InceptionV3（86.42%）和DenseNet121（86.81%）。
• ResNet50在验证集上实现零误分类，青光眼与非青光眼两类的准确率均为100%。
• VGG-19表现优异，验证准确率达93.31%，测试集中仅3例误分类。
• LIME成功生成了局部化、人类可理解的解释，突出显示了对预测贡献最大的眼底图像区域。
• 模型的预测具有视觉可解释性，LIME识别出视乳头和视杯区域为青光眼检测的关键判别特征。
• LIME的集成显著降低了模型的不透明性，使临床医生能够基于眼底图像中的解剖标志物验证预测结果。