[논문 리뷰] Towards Alzheimer's Disease Classification through Transfer Learning

Marcia Hon, Naimul Khan|arXiv (Cornell University)|2017. 11. 29.

Brain Tumor Detection and Classification인용 수 21

한 줄 요약

이 논문은 알츠하이머병 분류를 위한 MRI 데이터에서 사전 훈련된 VGG16 및 Inception V4 모델을 사용한 전이 학습 접근법을 제안한다. 영상 엔트로피를 이용해 가장 정보가 풍부한 훈련 슬라이스를 선택함으로써, 단지 5,120장의 훈련 이미지로도 96.25%의 정확도를 달성하며, 이는 이전의 딥러닝 방법들보다 훈련 세트가 약 10배 적은 것으로도 최신 기술 수준의 성능을 입증한다.

ABSTRACT

Detection of Alzheimer's Disease (AD) from neuroimaging data such as MRI through machine learning have been a subject of intense research in recent years. Recent success of deep learning in computer vision have progressed such research further. However, common limitations with such algorithms are reliance on a large number of training images, and requirement of careful optimization of the architecture of deep networks. In this paper, we attempt solving these issues with transfer learning, where state-of-the-art architectures such as VGG and Inception are initialized with pre-trained weights from large benchmark datasets consisting of natural images, and the fully-connected layer is re-trained with only a small number of MRI images. We employ image entropy to select the most informative slices for training. Through experimentation on the OASIS MRI dataset, we show that with training size almost 10 times smaller than the state-of-the-art, we reach comparable or even better performance than current deep-learning based methods.

연구 동기 및 목표

• 알츠하이머병 분류에서 부족한 레이블이 부여된 MRI 데이터 문제를 해결하기 위해.
• 크고 비싸며 확보하기 어려운 의료 훈련 데이터 세트에 대한 의존도를 줄이기 위해.
• 전이 학습과 지능적인 데이터 선택을 통해 소규모 의료 영상 데이터 세트에서 딥러닝 성능을 향상시키기 위해.
• 자연 이미지 데이터 세트에서 사전 훈련된 모델이 뇌 MRI에 대해 알츠하이머병 검출에 효과적으로 일반화되는지 평가하기 위해.
• 최소한의 하이퍼파라미터 튜닝과 낮은 계산 비용으로도 높은 정확도를 달성할 수 있는지 보여주기 위해.

제안 방법

• 소규모 MRI 데이터 세트에서 ImageNet 가중치를 사용해 사전 훈련된 VGG16 및 Inception V4 모델을 미세조정하는 방식.
• 영상 엔트로피를 이용해 훈련 세트의 정보량을 극대화하기 위해 가장 정보가 풍부한 MRI 슬라이스를 선택하는 방식.
• 완전 연결 계층만 훈련하면서 합성곱 특징 추출기 부분은 고정하는 방식.
• 모델의 강건성과 일반화 능력을 평가하기 위해 5겹 교차 검증을 수행하는 방식.
• OASIS 데이터 세트를 사용하여 200명의 환자로부터 확보한 6,400장의 MRI 슬라이스를 사전 처리 및 정규화한 방식.
• Adam 옵timizer와 분류용 교차 엔트로피 손실을 사용한 표준 딥러닝 훈련 프rotocol를 적용한 방식.

실험 결과

연구 질문

• RQ1 사전 훈련된 ImageNet 모델을 사용한 전이 학습이 소규모 MRI 데이터 세트로도 알츠하이머병 분류에서 높은 정확도를 달성할 수 있는가?
• RQ2 랜덤 샘플링 대비 엔트로피 기반 MRI 슬라이스 선택 전략이 모델 성능 향상에 기여하는가?
• RQ3 동일한 소규모 데이터 세트에서 전이 학습이 초기 무작위 가중치로 훈련하는 것보다 성능이 뛰어나게 되는가?
• RQ4 지능적인 선택 전략을 적용한 소규모 훈련 세트가 이전의 딥러닝 방법에서 사용한 더 큰 데이터 세트를 능가할 수 있는가?
• RQ5 제한된 데이터 하에서 전이 학습을 적용할 경우, 아키텍처 선택(예: VGG16 대비 Inception V4)이 성능에 얼마나 큰 영향을 미치는가?

주요 결과

• 전이 학습을 통해 미세조정된 Inception V4 모델은 단지 5,120장의 이미지로도 96.25%의 정확도를 달성하였다.
• 전이 학습은 VGG16를 초기 무작위 가중치로 훈련한 경우와 비교해 뚜렷이 뛰어난 성능을 보였으며, 이 경우 정확도는 단지 74.12%에 머물렀다.
• 제안된 방법은 가장 큰 기준선보다 약 10배 적은 훈련 세트를 사용했음에도 불구하고, 다섯 개의 최신 기술 수준의 딥러닝 방법 중 네 개를 초월하는 정확도를 달성하였다.
• 엔트로피 기반 데이터 선택 전략은 구조적으로 다양하고 정보가 풍부한 MRI 슬라이스를 우선시함으로써 모델 성능 향상에 기여하였다.
• 최소한의 하이퍼파라미터 튜닝과 낮은 계산 비용으로도 경쟁 가능한 성능을 달성하였다.
• 결과적으로 전이 학습과 지능적인 데이터 선택 전략의 조합이 대규모 레이블이 부여된 의료 데이터 세트에 대한 의존도를 극적으로 줄일 수 있음을 입증하였다.