[论文解读] An Improved Model for Diabetic Retinopathy Detection by using Transfer Learning and Ensemble Learning

Md. Simul Hasan Talukder, Ajay Kirshno Sarkar+2 more|arXiv (Cornell University)|Jun 3, 2023

Retinal Imaging and Analysis被引用 25

一句话总结

该论文提出了一种使用预训练CNN（如 DenseNet 变体）的迁移学习和集成学习方法，通过数据增强和正则化，在糖尿病性视网膜病变检测中实现高准确率，报道某些基于 DenseNet 的模型达到 100% 的准确率及相关指标。

ABSTRACT

Diabetic Retinopathy (DR) is an ocular condition caused by a sustained high level of sugar in the blood, which causes the retinal capillaries to block and bleed, causing retinal tissue damage. It usually results in blindness. Early detection can help in lowering the risk of DR and its severity. The robust and accurate prediction and detection of diabetic retinopathy is a challenging task. This paper develops a machine learning model for detecting Diabetic Retinopathy that is entirely accurate. Pre-trained models such as ResNet50, InceptionV3, Xception, DenseNet121, VGG19, NASNetMobile, MobileNetV2, DensNet169, and DenseNet201 with pooling layer, dense layer, and appropriate dropout layer at the bottom of them were carried out in transfer learning (TL) approach. Data augmentation and regularization was performed to reduce overfitting. Transfer Learning model of DenseNet121, Average and weighted ensemble of DenseNet169 and DenseNet201 TL architectures contribute individually the highest accuracy of 100%, the highest precision, recall, F-1 score of 100%, 100%, and 100%, respectively.

研究动机与目标

• 激发并开发一个用于糖尿病性视网膜病变的准确自动检测器，以实现早期干预。
• 通过迁移学习利用预训练的CNN架构以提升DR检测的性能。
• 研究集成策略以提升预测准确性和鲁棒性。
• 应用数据增强和正则化以缓解在受限医学影像数据上的过拟合。

提出的方法

• 在迁移学习设置下评估多种预训练的CNN骨干网络（ResNet50、InceptionV3、Xception、DenseNet121、VGG19、NASNetMobile、MobileNetV2、DenseNet169、DenseNet201）。
• 在架构底部引入 pooling 层和 dense 层，并在其上应用 dropout，以适应 DR 检测。
• 应用数据增强和正则化技术以降低过拟合。
• 从 DenseNet169 和 DenseNet201 TL 架构构建平均集成和加权集成等集成方法。
• 使用标准分类指标（ precision、recall、F1-score、accuracy）评估性能。

实验结果

研究问题

• RQ1 使用多个预训练CNN的迁移学习相比单一模型，是否能提升糖尿病性视网膜病变检测的准确率？
• RQ2 基于 DenseNet 的 TL 模型的集成策略是否会为 DR 检测带来更好的性能？
• RQ3 哪些正则化和数据增强策略最能有效缓解 DR 数据集的过拟合？
• RQ4 哪种 TL 架构组合在 DR 检测中能提供最佳的精确率与召回率之间的权衡？

主要发现

• DenseNet121 结合迁移学习在 DR 检测中实现高准确率。
• DenseNet169 和 DenseNet201 TL 架构的平均与加权集成达到报道中的最高指标。
• 集成与恰当的正则化带来精确度、召回率和 F1 分数的显著提升。
• 在迁移学习设置中使用数据增强和正则化以降低过拟合。
• 论文在某些 TL 配置下（DenseNet169/201 集成）报告了 100% 的准确率、精确度、召回率和 F1 分数。