[논문 리뷰] Transfer Learning based Detection of Diabetic Retinopathy from Small Dataset

Misgina Tsighe Hagos, Shri Kant|arXiv (Cornell University)|2019. 05. 17.

Retinal Imaging and Analysis인용 수 82

한 줄 요약

본 논문은 사전 학습된 Inception-V3 모델을 사용하여 작은 부분 샘플링된 Kaggle 데이터셋으로 당뇨병 망막증(DR)을 탐지하는 방법을 보여주며, 의료 영상 분류에서의 학습 데이터 부족 문제를 해결한다.

ABSTRACT

Annotated training data insufficiency remains to be one of the challenges of applying deep learning in medical data classification problems. Transfer learning from an already trained deep convolutional network can be used to reduce the cost of training from scratch and to train with small training data for deep learning. This raises the question of whether we can use transfer learning to overcome the training data insufficiency problem in deep learning based medical data classifications. Deep convolutional networks have been achieving high performance results on the ImageNet Large Scale Visual Recognition Competition (ILSVRC) image classification challenge. One example is the Inception-V3 model that was the first runner up on the ILSVRC 2015 challenge. Inception modules that help to extract different sized features of input images in one level of convolution are the unique features of the Inception-V3. In this work, we have used a pretrained Inception-V3 model to take advantage of its Inception modules for Diabetic Retinopathy detection. In order to tackle the labelled data insufficiency problem, we sub-sampled a smaller version of the Kaggle Diabetic Retinopathy classification challenge dataset for model training, and tested the model's accuracy on a previously unseen data subset. Our technique could be used in other deep learning based medical image classification problems facing the challenge of labeled training data insufficiency.

연구 동기 및 목표

• 의료 영상 분류를 위한 딥러닝에서 주석된 학습 데이터의 부족 문제에 직면하는 동기를 제시한다.
• DR 탐지를 위한 사전 학습된 Inception-V3 모델을 이용한 전이 학습 접근법을 제안한다.
• Kaggle DR 데이터셋의 더 작은 버전을 부분 샘플링하더라도 보지 않은 데이터에서 유용한 모델 성능을 얻을 수 있음을 보여준다.

제안 방법

• 망막 영상 특징을 활용하기 위해 Inception 모듈을 활용하는 사전 학습된 Inception-V3 컨볼루션 신경망을 이용한다.
• 제한된 라벨 데이터로 인해 Kaggle 당뇨병성 망막증 데이터셋의 더 작은 버전을 부분 샘플링하여 학습 세트를 만든다.
• 부분 샘플링된 데이터에서 모델을 학습시키고 이전에 보지 못한 데이터 하위집합에서 정확도를 평가한다.
• 의료 영상 분류 문제에서 처음부터 학습하는 필요를 줄이기 위해 전이 학습을 활용한다.

실험 결과

연구 질문

• RQ1 사전 학습된 Inception-V3 네트워크의 전이 학습이 당뇨병성 망막증 탐지에서의 데이터 부족 문제를 극복할 수 있는가?
• RQ2 더 작은 부분샘플링 DR 데이터셋으로 학습된 모델이 보지 않은 데이터에 얼마나 잘 일반화되는가?
• RQ3 저데이터 규模에서 DR 분류를 위한 다중 스케일 망막 특징 추출에 Inception-V3가 적합한가?

주요 결과

• 사전 학습된 Inception-V3 모델은 작은 데이터셋을 사용하여 당뇨병 망막증 탐지에 적용될 수 있다.
• 전이 학습을 통한 부분 샘플링 데이터셋에서의 학습은 보지 않은 데이터 하위집합에 대한 평가를 가능하게 한다.
• 이 방법은 라벨 데이터의 제한에 직면한 다른 의료 영상 분류에도 적용 가능성을 시사한다.