[논문 리뷰] Ensemble of Deep Convolutional Neural Networks for Learning to Detect Retinal Vessels in Fundus Images

Debapriya Maji, Anirban Santara외 2명|arXiv (Cornell University)|2016. 03. 15.

Retinal Imaging and Analysis참고 문헌 19인용 수 81

한 줄 요약

이 논문은 12개의 딥 컨volution 신경망(ConvNets) 앙상블을 제안하여, 개별 네트워크 출력의 평균 투표를 통해 분할 정확도를 향상시키는 강력하고 데이터 기반의 망막 혈관 검출을 위한 방법을 제시한다. 이 방법은 DRIVE 데이터셋에서 평균 정확도 94.7%와 AUC 0.9283을 달성하여 이전의 딥 러닝 접근법을 능가하며, 수작업 특징에 의존하는 것을 최소화한다.

ABSTRACT

Vision impairment due to pathological damage of the retina can largely be prevented through periodic screening using fundus color imaging. However the challenge with large scale screening is the inability to exhaustively detect fine blood vessels crucial to disease diagnosis. In this work we present a computational imaging framework using deep and ensemble learning for reliable detection of blood vessels in fundus color images. An ensemble of deep convolutional neural networks is trained to segment vessel and non-vessel areas of a color fundus image. During inference, the responses of the individual ConvNets of the ensemble are averaged to form the final segmentation. In experimental evaluation with the DRIVE database, we achieve the objective of vessel detection with maximum average accuracy of 94.7\% and area under ROC curve of 0.9283.

연구 동기 및 목표

• 색채 망막 영상에서 굵고 미세한 혈관을 모두 탐지하기 위한 데이터 기반, 히우리스틱 기반의 방법을 개발하기 위해.
• 기존의 수작업 특징 기반 혈관 검출 방법의 주관성과 성능 한계를 극복하기 위해.
• 딥 러닝과 앙상블 기법을 활용하여 망막 혈관 분할의 일반화 능력과 견고성을 향상시키기 위해.
• 표준 벤치마크 데이터셋(DRIVE)에서 제안된 프레임워크를 평가하고 최신 기술과의 성능을 비교하기 위해.

제안 방법

• 12개의 동일한 ConvNets로 구성된 앙상블가 DRIVE 학습 세트의 무작위 패치(이미지 ID 21–40)에서 독립적으로 학습된다.
• 각 ConvNet은 3×31×31 색상 패치를 처리하며, ReLU와 드롭아웃을 사용하는 3개의 컨볼루션 레이어, 2개의 풀링 레이어, 2개의 완전 연결 레이어로 구성된 아키텍처를 갖는다.
• 네트워크 아키텍처는 4×4 수신장(field)을 사용하며, 컨볼루션 레이어의 스트라이드는 1이고, 2×2 맥스 풀링을 스트라이드 2로 적용한다.
• 추론 과정에서 모든 12개의 네트워크에서 유도된 각 픽셀의 혈관성 확률을 평균내어 최종 분할 출력을 생성한다.
• 최종 레이어는 혈관 픽셀과 비혈관 픽셀에 대한 클래스 확률을 출력하기 위해 소프트맥스 함수를 사용한다.
• 드롭아웃 비율(U[0.5, 0.9]), L2 정규화(U[1e-3, 2.5e-3]), 히든 유닛 수(U{128, 256, 512})와 같은 하이퍼파ram터는 각 모델마다 무작위로 샘플링된다.

실험 결과

연구 질문

• RQ1 딥 ConvNets의 앙상블가 망막 혈관 분할에서 단일 모델 기반 딥 러닝 접근법을 능가할 수 있는가?
• RQ2 데이터 기반, 엔드 투 엔드 딥 러닝 접근법이 히우리스틱 기반 혈관 검출 방법에 비해 주관성과 편향을 줄일 수 있는가?
• RQ3 이 앙상블 방법은 망막 영상에서 굵고 미세한 혈관을 모두 탐지하는 데 얼마나 잘 일반화되는가?
• RQ4 기존 최신 기술 대비 제안된 방법의 정확도, AUC, 카파 스코어 측면에서의 성능은 어떠한가?

주요 결과

• 제안된 앙상블 방법은 DRIVE 테스트 세트에서 최대 평균 정확도 94.70%를 달성하여, Maji 등 [13]이 제안한 이전 딥 러닝 방법(93.27%)을 능가한다.
• 카파 스코어 0.7031을 기록하여 굵고 미세한 혈관을 탐지하는 데 강력한 일致성을 보이며, 이는 이전의 딥 러닝 방법(카파 = 0.6287)을 초월한다.
• ROC 곡선 아래 면적(AUC)은 0.9283으로, 혈관 픽셀과 비혈관 픽셀 간 강력한 분류 성능을 보여준다.
• 확대된 샘플 이미지 #5와 #16의 시각적 확인을 통해 미세 혈관 탐지에서 뛰어난 일반화 능력과 견고성을 보였다.
• 앙상블 접근법은 과적합을 감소시키고 모델 안정성을 향상시켜 다양한 망막 구조에서 일관된 성능을 보였다.