[논문 리뷰] An Improved Model for Diabetic Retinopathy Detection by using Transfer Learning and Ensemble Learning

Md. Simul Hasan Talukder, Ajay Kirshno Sarkar외 2명|arXiv (Cornell University)|2023. 06. 03.

Retinal Imaging and Analysis인용 수 25

한 줄 요약

본 논문은 데이터 증강과 정규화를 활용한 사전 학습된 CNN(예: DenseNet 변형)과 전이 학습 및 앙상블 학습 접근법을 제시하여 당뇨망막병증(DR) 탐지에서 높은 정확도를 달성하고 특정 DenseNet 기반 모델에서 100% 정확도 및 관련 지표를 보고한다.

ABSTRACT

Diabetic Retinopathy (DR) is an ocular condition caused by a sustained high level of sugar in the blood, which causes the retinal capillaries to block and bleed, causing retinal tissue damage. It usually results in blindness. Early detection can help in lowering the risk of DR and its severity. The robust and accurate prediction and detection of diabetic retinopathy is a challenging task. This paper develops a machine learning model for detecting Diabetic Retinopathy that is entirely accurate. Pre-trained models such as ResNet50, InceptionV3, Xception, DenseNet121, VGG19, NASNetMobile, MobileNetV2, DensNet169, and DenseNet201 with pooling layer, dense layer, and appropriate dropout layer at the bottom of them were carried out in transfer learning (TL) approach. Data augmentation and regularization was performed to reduce overfitting. Transfer Learning model of DenseNet121, Average and weighted ensemble of DenseNet169 and DenseNet201 TL architectures contribute individually the highest accuracy of 100%, the highest precision, recall, F-1 score of 100%, 100%, and 100%, respectively.

연구 동기 및 목표

• 조기 개입을 가능하게 하기 위해 당뇨망막병증(DR)을 위한 정확한 자동 탐지기를 동기 부여하고 개발한다.
• 전이 학습을 통해 사전 학습된 CNN 아키텍처를 활용하여 DR 탐지의 성능을 향상시킨다.
• 예측 정확도와 강건성을 높이기 위한 앙상블 전략을 조사한다.
• 제한된 의학 영상 데이터에서 과적합을 완화하기 위해 데이터 증강 및 정규화(regularization)를 적용한다.

제안 방법

• 전이 학습 설정에서 다수의 사전 학습된 CNN 백본(ResNet50, InceptionV3, Xception, DenseNet121, VGG19, NASNetMobile, MobileNetV2, DenseNet169, DenseNet201)을 평가한다.
• DR 탐지를 위해 아키텍처의 하단에 풀링 및 Dense 층과 dropout을 도입한다.
• 데이터 증강 및 정규화 기법을 적용하여 overfitting을 줄인다.
• DenseNet169 및 DenseNet201 TL 아키텍처에서 평균 앙상블 및 가중치 앙상블 등의 앙상블 방법을 구축한다.
• 정밀도, 재현율, F1-score, 정확도와 같은 표준 분류 지표를 사용하여 성능을 평가한다.

실험 결과

연구 질문

• RQ1 여러 개의 사전 학습된 CNN을 이용한 전이 학습이 단일 모델과 비교해 당뇨망막병증 탐지 정확도를 향상시킬 수 있는가?
• RQ2 DenseNet 기반 TL 모델들 간의 앙상블 전략이 DR 탐지에서 더 나은 성능을 낳는가?
• RQ3 DR 데이터셋에서 어떤 정규화 및 데이터 증강 전략이 과적합을 가장 효과적으로 완화하는가?
• RQ4 DR 탐지에 대해 정밀도와 재현율 사이의 최적 균형을 제공하는 TL 아키텍처 조합은 어떤 것인가?

주요 결과

• 전이 학습을 이용한 DenseNet121이 DR 탐지에서 높은 정확도를 달성한다.
• DenseNet169 및 DenseNet201 TL 아키텍처의 평균 및 가중치 앙상블이 가장 높은 지표를 달성한다.
• 앙상블링과 적절한 정규화가 정밀도, 재현율, F1-score의 향상을 이끈다.
• 전이 학습 설정에서 과적합을 줄이기 위해 데이터 증강과 정규화가 적용된다.
• 본 논문은 특정 TL 구성(DenseNet169/201 앙상블)에 대해 100% 정확도, 정밀도, 재현율, F1-score를 보고한다.