[논문 리뷰] A Novel Hybrid Machine Learning Model for Auto-Classification of Retinal Diseases

Chris Yang, Jia-Hong Huang외 6명|arXiv (Cornell University)|2018. 06. 17.

Retinal Imaging and Analysis참고 문헌 15인용 수 21

한 줄 요약

이 논문은 32종의 망막 질환을 자동으로 분류하기 위해 U-Net 기반의 딥 뉴럴 네트워크(DNN)와 서포트 벡터 머신(SVM)을 조합한 새로운 하이브리드 기계학습 모델을 제안한다. 모델은 망막 특징의 의미적 세그멘테이션을 위해 U-Net을 사용하고, 이후 주성분 분석(PCA)을 통한 차원 축소와 SVM 분류를 수행하며, 새로 도입된 EyeNet 데이터셋에서 89.73%의 정확도를 기록하여 전문 안과의사 수준에 도달한다.

ABSTRACT

Automatic clinical diagnosis of retinal diseases has emerged as a promising approach to facilitate discovery in areas with limited access to specialists. We propose a novel visual-assisted diagnosis hybrid model based on the support vector machine (SVM) and deep neural networks (DNNs). The model incorporates complementary strengths of DNNs and SVM. Furthermore, we present a new clinical retina label collection for ophthalmology incorporating 32 retina diseases classes. Using EyeNet, our model achieves 89.73% diagnosis accuracy and the model performance is comparable to the professional ophthalmologists.

연구 동기 및 목표

• 의료 현장, 특히 보건의료 서비스가 부족한 지역이나 농촌 지역에서 사용할 수 있는 자동화되고 신뢰성 있고 확장 가능한 망막 질환 진단 시스템을 개발하기 위해.
• 제한된 레이블이 부여된 망막 영상 데이터 문제를 해결하기 위해, 32개의 질환 유형을 포함하는 새로운 종합적인 임상 레이블 컬렉션인 EyeNet을 도입하기 위해.
• 딥 러닝을 통한 특징 추출과 SVM을 통한 강력한 고수준 분류를 융합하여 진단 정확도를 향상시키기 위해.
• 전문 안과의사와 비교 가능한 성능을 보이는 시스템을 구축하여 현장 진단을 가능하게 하기 위해.
• 풍부한 다중 모odal 망막 영상 데이터셋을 통해 향후 시각 질문 응답 및 지능형 의료 시스템 연구를 지원하기 위해.

제안 방법

• 하이브리드 아키텍처를 설계: 원시 망막 영상은 U-Net을 통해 의미적 특징을 추출하고, 이후 주성분 분석(PCA)을 통해 차원 축소를 수행한다.
• 차원 축소된 특징 맵은 RBF 및 다항식 커널을 사용한 다중 클래스 SVM 분류기로 입력되어 최종 질환 예측을 수행한다.
• 전체 EyeNet 데이터셋과 U-Net 처리된 서브셋에 대해 각각 훈련된 두 개의 SVM에 대해 가중치 기반 투표 전략을 적용하며, 최적의 하이브리드 비율은 47%:53%이다.
• 작은 의료 데이터셋에서의 성능 향상을 위해 ImageNet 사전 훈련 가중치(AlexNet, VGG11, SqueezeNet)를 활용한 전이 학습을 적용한다.
• 훈련 중 데이터 증강을 적용하며, 랜덤 플립, 회전, 자르기 등의 기법을 사용하고, 각 에포크당 70%의 확률로 적용된다.
• 모든 모델에서 하이퍼파rameter를 동일하게 설정: 400 에포크, 이중 단계 학습률(첫 200 에포크 동안 1e-4, 다음 200 에포크 동안 1e-5).

실험 결과

연구 질문

• RQ1 제한된 임상 데이터를 바탕으로 하이브리드 딥 러닝과 SVM 모델이 다수의 망막 질환에 대해 높은 진단 정확도를 달성할 수 있는가?
• RQ2 U-Net 기반의 특징 추출과 SVM 분류를 융합함으로써 단독 DNN보다 성능 향상이 이루어지는가?
• RQ3 ImageNet에서의 전이 학습이 작은 망막 영상 데이터셋에서 일반화 능력을 얼마나 향상시키는가?
• RQ4 제안된 EyeNet 데이터셋이 신뢰성 있고 재현 가능하며 임상적으로 관련성이 있는 망막 질환 분류를 지원할 수 있는가?
• RQ5 다른 데이터 서브셋에 대해 훈련된 두 개의 SVM 간 가중치 기반 투표 전략이 최종 진단 정확도에 어떤 영향을 미치는가?

주요 결과

• RBF 커널을 사용한 하이브리드 모델은 47%:53%의 하이브리드 비율로 89.73%의 분류 정확도를 기록하여 모든 단독 DNN 기준 모델보다 뛰어난 성능을 보였다.
• 전이 학습은 성능 향상에 중대한 기여를 하였으며, 모든 DNN에서 무작위 초기화 대비 테스트 정확도를 5–15%포인트 향상시켰다.
• VGG11 기반 모델은 ImageNet 사전 훈련을 통해 기준 모델 중 가장 높은 정확도 88.71%를 기록하였고, SqueezeNet(82.26%)과 AlexNet(79.03%)이 그 뒤를 이었다.
• U-Net 세그멘테이션 결과는 진짜값과 높은 유사성을 보였으며, 매크룰 퇴행 및 시신경두경색 출혈과 같은 다양한 병변에 대해 강력한 성능을 보였다.
• 모델는 과적합에 강건했으며, 훈련 정확도와 검증 정확도 간 차이가 오직 2.31%에 불과하여 효과적인 일반화 능력을 보였다.
• 32종의 망막 질환 유형을 포함하고 있으며, 영상과 텍스트 임상 레이블을 모두 포함하는 EyeNet 데이터셋은 향후 망막 영상 AI 연구를 위한 새로운 공개 자원이다.