[논문 리뷰] A multi-task deep learning model for the classification of Age-related Macular Degeneration

Qingyu Chen, Yifan Peng외 6명|arXiv (Cornell University)|2018. 12. 02.

Retinal Imaging and Analysis참고 문헌 15인용 수 46

한 줄 요약

논문은 먼저 네 가지 AMD 특성(드루젠 영역, 지리적 위축, 색소 증가, 색소 탈색) 점수를 매긴 뒤 AREDS 1-9 심각도 점수를 계산하는 다중 작업 딥러닝 모델을 소개하며 AREDS 및 AREDS2 데이터셋에서 최첨단 대비 높은 정확도와 F1 점수를 달성한다.

ABSTRACT

Age-related Macular Degeneration (AMD) is a leading cause of blindness. Although the Age-Related Eye Disease Study group previously developed a 9-step AMD severity scale for manual classification of AMD severity from color fundus images, manual grading of images is time-consuming and expensive. Built on our previous work DeepSeeNet, we developed a novel deep learning model for automated classification of images into the 9-step scale. Instead of predicting the 9-step score directly, our approach simulates the reading center grading process. It first detects four AMD characteristics (drusen area, geographic atrophy, increased pigment, and depigmentation), then combines these to derive the overall 9-step score. Importantly, we applied multi-task learning techniques, which allowed us to train classification of the four characteristics in parallel, share representation, and prevent overfitting. Evaluation on two image datasets showed that the accuracy of the model exceeded the current state-of-the-art model by > 10%.

연구 동기 및 목표

• 자동화되고 확장 가능한 AMD 심각도 등급을 도입, 전문가 등급의 시간과 비용 문제로 인한 9단계 수동 등급을 넘어선다.
• 네 가지 AMD 특성을 예측하고 9단계 AREDS 심각도 척도를 도출함으로써 인간의 읽기 센터 등급을 모방한다.
• 다중 작업 학습을 활용해 특성 간 표현을 공유하고 과적합을 줄인다.
• AREDS 및 AREDS2 데이터셋에서 강건성과 일반화 능력을 평가하고 기존 모델과 비교한다.

제안 방법

• 네 가지 분류기가 초기 층(Inception-V3 기반 특징 추출기)을 공유하고 각 AMD 특성에 대해 작업별 헤드를 갖는 다중 작업 아키텍처를 제안한다.
• 밝기를 정규화하고 사각으로 자르고 512x512 픽셀로 리사이즈하는 전처리 단계 사용.
• 데이터 증가(회전, 뒤집기) 및 드롭아웃 적용으로 과적합 완화; 교차 엔트로피 손실을 사용하는 Adam 옵티마이저로 학습.
• 두 단계 학습: (i) 모든 작업을 병렬로 학습해 공유 표현 학습, (ii) 공유 레이어를 고정하고 작업별 헤드를 미세 조정.
• 네 가지 특성의 예측을 토대로 드루젠 영역, 지리적 위축, 색소 증가, 색소 감소의 정의된 매핑에 따라 AREDS 심각도 점수를 계산(논문 표 1에 따라).
• Grassmann 등 모델과 AREDS에서 학습된 CNN 베이스라인과 비교하고 AREDS에 대해 5-폴드 교차검증 및 AREDS2에 대한 독립 테스트를 수행.

실험 결과

연구 질문

• RQ1 다중 작업 모델이 AREDS 및 AREDS2에서 AREDS 1-9 심각도 척도를 예측할 때 단일 작업 및 베이스라인 CNN 모델보다 성능이 우수한가?
• RQ2 네 가지 AMD 특성의 중간 예측이 최종 심각도 점수화 및 해석 가능성을 향상시키는가?
• RQ3 ImageNet에서의 전이 학습 및 다중 작업 학습이 AREDS와 AREDS2 데이터셋 간 일반화에 어떤 영향을 미치는가?
• RQ4 어떤 AMD 특성이 심각도 점수화에서 가장 큰 오류를 야기하며 클래스 불균형이 성능에 어떤 영향을 미치는가?
• RQ5 AREDS와 AREDS2 데이터셋 간 분포 변화에 대해 다중 작업 접근법이 견고한가?

주요 결과

• 다중 작업 모델이 AREDS 및 AREDS2 데이터셋에서 지표상 CNN 베이스라인 및 Grassmann 모델을 능가했다.
• AREDS2에서 다중 작업 모델은 가중치 F1-점수가 약 5% 더 높고, 카파(Kappa)가 약 3% 높았으며 정확도가 약 4% 더 높았다.
• 단일 작업 학습과 비교하면 다중 작업 학습은 가중치 F1-점수가 약 4% 더 높고 다른 지표도 약 2% 높았다.
• ImageNet의 사전 학습 가중치를 활용한 전이 학습이 일반화 향상에 기여했으며, 특히 AREDS2에서 두드러졌다.
• 오차 분석에서 드루젠 영역 분류가 주요 병목으로 나타났고 클래스별 정확도가 낮았으며 데이터 불균형과 일부 클래스의 샘플 수가 제한적임을 시사했다.