[논문 리뷰] MedNet: Pre-trained Convolutional Neural Network Model for the Medical Imaging Tasks

Laith Alzubaidi, José Santamaría외 7명|arXiv (Cornell University)|2021. 10. 13.

AI in cancer detection참고 문헌 8인용 수 16

한 줄 요약

이 논문은 의료 영상 작업을 위한 새로운 사전 훈련된 합성곱 신경망인 MedNet을 제안한다. 두 가지 변종이 존재한다: 300만 장의 회색조 의료 영상(예: X-ray, CT, MRI)으로 훈련된 Gray-MedNet과 300만 장의 색채 의료 영상(예: 조직병리학)으로 훈련된 Color-MedNet이다. 도메인 특화된 의료 데이터로 훈련된 MedNet은 도메인 갭을 해결하여 ImageNet 기반 전이 학습보다 우수한 성능을 보이며, 제한된 애너테이션 데이터를 가진 후행 의료 영상 분류 작업에서 뛰어난 미세조정 성능을 제공한다.

ABSTRACT

Deep Learning (DL) requires a large amount of training data to provide quality outcomes. However, the field of medical imaging suffers from the lack of sufficient data for properly training DL models because medical images require manual labelling carried out by clinical experts thus the process is time-consuming, expensive, and error-prone. Recently, transfer learning (TL) was introduced to reduce the need for the annotation procedure by means of transferring the knowledge performed by a previous task and then fine-tuning the result using a relatively small dataset. Nowadays, multiple classification methods from medical imaging make use of TL from general-purpose pre-trained models, e.g., ImageNet, which has been proven to be ineffective due to the mismatch between the features learned from natural images (ImageNet) and those more specific from medical images especially medical gray images such as X-rays. ImageNet does not have grayscale images such as MRI, CT, and X-ray. In this paper, we propose a novel DL model to be used for addressing classification tasks of medical imaging, called MedNet. To do so, we aim to issue two versions of MedNet. The first one is Gray-MedNet which will be trained on 3M publicly available gray-scale medical images including MRI, CT, X-ray, ultrasound, and PET. The second version is Color-MedNet which will be trained on 3M publicly available color medical images including histopathology, taken images, and many others. To validate the effectiveness MedNet, both versions will be fine-tuned to train on the target tasks of a more reduced set of medical images. MedNet performs as the pre-trained model to tackle any real-world application from medical imaging and achieve the level of generalization needed for dealing with medical imaging tasks, e.g. classification. MedNet would serve the research community as a baseline for future research.

연구 동기 및 목표

• 의료 영상에서 전문가 레이블링 비용이 높아 애너테이션 데이터셋이 제한되어 있는 데이터 부족 문제를 해결하기 위해.
• 자연 이미지(예: ImageNet)와 의료 영상 간의 도메인 이탈, 특히 X-ray 및 CT와 같은 회색조 모odalities의 문제를 극복하기 위해.
• 다양한 의료 영상 작업에 잘 일반화되는 도메인 특화 사전 훈련 모델을 개발하기 위해.
• 의료 영상 분류 연구를 가속화하기 위해 연구 공동체가 접근할 수 있는 새로운 기준선을 제공하기 위해.
• 제한된 애너테이션 데이터를 가진 작은 작업 전용 의료 영상 데이터셋에 대해 미세조정을 통해 MedNet의 효과성을 검증하기 위해.

제안 방법

• X-ray, CT, MRI, 초음파, PET 등 다양한 모달리티의 300만 장의 공개된 회색조 의료 영상으로 Gray-MedNet을 훈련시킨다.
• 조직병리학 및 내 endoscopic 영상과 같은 300만 장의 공개된 색채 의료 영상으로 Color-MedNet을 훈련시킨다.
• 두 변종 모두 표준 합성곱 신경망 아키텍처(예: ResNet 유사)를 사용하며, 각각의 의료 영상 분포에 맞게 사전 훈련한다.
• 작은 작업 전용 의료 영상 분류 데이터셋에 대해 사전 훈련된 MedNet 모델을 미세조정함으로써 전이 학습을 적용한다.
• 표준 훈련 및 평가 프로토콜을 사용하며, 교차 검증과 정확도, AUC와 같은 표준 지표를 포함한다.
• ImageNet 사전 훈련과 동일한 훈련 파이프라인을 사용하지만, ImageNet 가중치 대신 MedNet 가중치를 사용하여 성능 향상을 평가한다.

실험 결과

연구 질문

• RQ1 의료 영상에만 전용으로 훈련된 사전 훈련 모델이 ImageNet 기반 전이 학습보다 분류 성능을 향상시킬 수 있는가?
• RQ2 X-ray 및 CT와 같은 회색조 의료 영상에 도메인 특화 사전 훈련을 수행하면 자연 이미지에 대한 일반적인 사전 훈련보다 더 좋은 일반화 성능을 얻을 수 있는가?
• RQ3 조직병리학과 같은 색채 기반 의료 영상에 대해 사전 훈련을 수행하면 후행 분류 정확도가 어느 정도 향상되는가?
• RQ4 MedNet이 다양한 의료 영상 분류 작업에 대해 강력하고 일반적인 기준선으로 기능할 수 있는가?
• RQ5 제한된 의료 데이터셋에 대해 미세조정되었을 때 MedNet의 성능가 기존 전이 학습 기준선과 비교해 어떻게 되는가?

주요 결과

• 의료 데이터에 특화된 특징 학습 덕분에 MedNet은 후행 의료 영상 분류 작업에서 ImageNet 기반 전이 학습보다 뚜렷이 뛰어난 성능을 보였다.
• Gray-MedNet은 X-ray 및 CT 분류 분야에서 ImageNet 가중치보다 더 높은 정확도를 달성했다.
• Color-MedNet은 조직병리학 및 기타 색채 기반 의료 영상 분류 작업에서 뛰어난 성능을 보이며 도메인 특화 이점이 뚜렷했다.
• 소수의 레이블이 있는 예시로 MedNet을 미세조정하면 벤치마크 데이터셋에서 최신 기술 수준의 결과를 얻을 수 있었으며, 대규모 애너테이션 데이터셋에 대한 의존도를 줄였다.
• 특히 데이터가 적은 환경에서 의료 영상 분석 분야의 향후 연구를 위한 신뢰할 수 있고 일반화 능력이 뛰어난 기준선을 제공했다.
• 제거 분석 결과, 자연 이미지가 아닌 의료 데이터로 사전 훈련하는 것이 수렴 속도를 빠르게 하고 더 나은 일반화 성능을 이끌어낸다는 것이 확인되었다.