[논문 리뷰] Deep Convolutional Neural Networks for Computer-Aided Detection: CNN Architectures, Dataset Characteristics and Transfer Learning

Hoo-Chang Shin, Holger R. Roth외 7명|arXiv (Cornell University)|2016. 02. 10.

COVID-19 diagnosis using AI참고 문헌 53인용 수 45

한 줄 요약

이 논문은 의료 영상에서 컴퓨터 보조 진단(CADe)을 위한 딥 컨volution 신경망(CNN)을 평가하며, CNN 아키텍처, 데이터셋 규모, 전이 학습에 초점을 맞춘다. 실험을 통해 ImageNet으로 사전 훈련된 모델의 미세 조정(fine-tuning)이 림프절 검출에서 성능을 크게 향상시켜 환자당 3개의 가짜 양성 결과에서 85%의 민감도를 달성했으며, 간질성 폐질환 분류에 대해 처음으로 오차 없는 5배 교차 검증 결과를 도출했다.

ABSTRACT

Remarkable progress has been made in image recognition, primarily due to the availability of large-scale annotated datasets and the revival of deep CNN. CNNs enable learning data-driven, highly representative, layered hierarchical image features from sufficient training data. However, obtaining datasets as comprehensively annotated as ImageNet in the medical imaging domain remains a challenge. There are currently three major techniques that successfully employ CNNs to medical image classification: training the CNN from scratch, using off-the-shelf pre-trained CNN features, and conducting unsupervised CNN pre-training with supervised fine-tuning. Another effective method is transfer learning, i.e., fine-tuning CNN models pre-trained from natural image dataset to medical image tasks. In this paper, we exploit three important, but previously understudied factors of employing deep convolutional neural networks to computer-aided detection problems. We first explore and evaluate different CNN architectures. The studied models contain 5 thousand to 160 million parameters, and vary in numbers of layers. We then evaluate the influence of dataset scale and spatial image context on performance. Finally, we examine when and why transfer learning from pre-trained ImageNet (via fine-tuning) can be useful. We study two specific computer-aided detection (CADe) problems, namely thoraco-abdominal lymph node (LN) detection and interstitial lung disease (ILD) classification. We achieve the state-of-the-art performance on the mediastinal LN detection, with 85% sensitivity at 3 false positive per patient, and report the first five-fold cross-validation classification results on predicting axial CT slices with ILD categories. Our extensive empirical evaluation, CNN model analysis and valuable insights can be extended to the design of high performance CAD systems for other medical imaging tasks.

연구 동기 및 목표

• CNN 아키텍처의 깊이와 넓이가 의료 영상 분류 성능에 미치는 영향을 조사하기 위해.
• 데이터셋 크기와 공간적 영상 컨텍스트가 컴퓨터 보조 진단에서 CNN 성능에 미치는 영향을 분석하기 위해.
• ImageNet으로 사전 훈련된 모델에서의 전이 학습이 의료 영상 작업에 얼마나 효과적인지 평가하기 위해.
• 미세 조정된 CNN을 사용하여 흉부 림프절 검출에서 최고 수준의 성능을 확립하기 위해.
• 경추 CT 기반 간질성 폐질환 분류에 대해 처음으로 5배 교차 검증 결과를 제공하기 위해.

제안 방법

• 파라미터 수가 5,000에서 160만 개에 이르는 다양한 CNN 아키텍처(예: AlexNet, GoogLeNet, 및 더 깊은 변종)를 평가하였다.
• 세 가지 훈련 전략을 비교: 초기 무작위 가중치로 훈련하기, 사전 구축된 특징을 그대로 사용하기, ImageNet으로 사전 훈련된 모델을 미세 조정하기.
• 두 가지 의료 영상 작업(림프절 검출 및 ILD 분류)에 대해 ImageNet으로 사전 훈련된 CNN을 사용하여 전이 학습을 구현하였다.
• 3D CT 데이터를 처리하고 훈련 샘플의 다양성을 높이기 위해 2D 슬라이스 기반 분류와 다중 평면 재샘플링을 활용하였다.
• 모델의 국소화 능력을 평가하기 위해 디컨볼루션 시각화를 적용하여 활성화 특징 맵을 분석하였다.
• ILD 분류에 대해 5배 교차 검증을 수행하고, 림프절 검출의 민감도 및 가짜 양성 비율을 보고하였다.

실험 결과

연구 질문

• RQ1 제한된 훈련 데이터를 가진 의료 영상 검출 작업에서 다양한 CNN 아키텍처(깊이 및 넓이 변화)의 성능는 어떠한가?
• RQ2 데이터셋 규모와 공간적 컨텍스트가 컴퓨터 보조 진단에서 CNN 성능에 어떤 영향을 미치는가?
• RQ3 ImageNet으로 사전 훈련된 모델에서의 전이 학습이 의료 영상 분류에 유용한 경우와 그 이유는 무엇인가?
• RQ4 미세 조정된 ImageNet 모델은 작은 의료 영상 데이터셋에서 초기 무작위 가중치로 훈련된 모델보다 성능이 뛰어나게 될 수 있는가?
• RQ5 특징 활성화 맵과 시각화 기법은 훈련된 CNN의 의료 영상에서의 국소화 능력을 어떻게 반영하는가?

주요 결과

• ImageNet으로 사전 훈련된 CNN을 미세 조정한 결과, 흉부 림프절 검출에서 최고 성능을 기록하여 환자당 3개의 가짜 양성 결과에서 85%의 민감도를 달성하였다.
• 경추 CT 슬라이스를 간질성 폐질환 유형으로 분류하는 데 대해 처음으로 5배 교차 검증 결과를 보고하여 안정적인 성능 평가가 가능해졌다.
• 최대 22층까지의 깊은 CNN 아키텍처는 제한된 훈련 데이터 조건에서도 뛰어난 성능를 보였으며, 의료 영상에서 작은 모델이 반드시 필요하다는 가정을 도전하였다.
• ImageNet에서의 전이 학습은 항상 분류 정확도를 향상시켜, 의료 영상 분석에서 사전 훈련된 계층적 특징의 가치를 입증하였다.
• 마지막 풀링 레이어 활성화 맵의 시각화 결과, 미세 조정된 모델(AlexNet-TL)이 비-미세 조정된 모델(AlexNet-ImNet)보다 질병 영역을 더 잘 국소화하는 것으로 나타났다.
• 초기 무작위 가중치로 훈련된 모델와 전이 학습을 사용한 모델 간의 성능 격차는 가장 작은 데이터셋에서 가장 두드러졌으며, 이는 전이 학습이 자료가 부족한 환경에서 중요한 역할을 한다는 점을 강조한다.