[논문 리뷰] Transfer learning approach to Classify the X-ray image that corresponds to corona disease Using ResNet50 pretrained by ChexNet

Mahyar Bolhassani|arXiv (Cornell University)|2021. 05. 18.

COVID-19 diagnosis using AI참고 문헌 8인용 수 4

한 줄 요약

이 연구는 이미지넷과 체크넷으로 사전 훈련된 ResNet50 및 DenseNet121을 사용하여 불균형 데이터셋에서 흉부 X선 영상으로부터 코로나19를 분류하기 위한 전이학습 접근법을 제안한다. 포칼 손실과 데이터 증강을 활용함으로써 추가적인 코로나19 샘플을 추가한 후 모델은 84.6%의 테스트 정확도를 달성하였으며, 체크넷으로 미세조정된 DenseNet121이 다른 아키텍처를 능가하였다.

ABSTRACT

Coronavirus adversely has affected people worldwide. There are common symptoms between the Covid19 virus disease and other respiratory diseases like pneumonia or Influenza. Therefore, diagnosing it fast is crucial not only to save patients but also to prevent it from spreading. One of the most reliant methods of diagnosis is through X-ray images of a lung. With the help of deep learning approaches, we can teach the deep model to learn the condition of an affected lung. Therefore, it can classify the new sample as if it is a Covid19 infected patient or not. In this project, we train a deep model based on ResNet50 pretrained by ImageNet dataset and CheXNet dataset. Based on the imbalanced CoronaHack Chest X-Ray dataset introducing by Kaggle we applied both binary and multi-class classification. Also, we compare the results when using Focal loss and Cross entropy loss.

연구 동기 및 목표

• 높은 불균형도를 보이는 데이터셋에서 딥러닝을 활용해 흉부 X선 영상에서 코로나19를 분류하는 데 도전하는 것.
• 의료 영상 분류에 있어 이미지넷 및 체크넷으로 사전 훈련된 모델을 사용한 전이학습의 효과를 평가하는 것.
• 클래스 불균형 상황에서 모델 성능에 미치는 영향을 비교하기 위해 교차엔트로피 손실과 포칼 손실을 다른 손실 함수로 비교하는 것.
• 데이터 합성 및 외부 데이터 추가를 통한 제한된 코로나19 X선 영상 샘플의 증강을 통해 모델의 일반화 능력을 향상시키는 것.

제안 방법

• 코로나해크 흉부 X선 데이터셋에서 이미지넷과 체크넷으로 사전 훈련된 ResNet50 및 DenseNet121 아키텍처를 미세조정하여 전이학습을 수행하였다.
• 훈련 샘플의 다양성을 높이기 위해 무작위 수평/수직 반전 및 무작위 회전 등의 데이터 증강 기법을 적용하였다.
• 희귀 클래스인 코로나19에 대한 영향을 줄이기 위해 포칼 손실을 사용하였다.
• 오버피팅을 방지하기 위해 애덤 옵timizer를 사용하고, 코즈인 감소 학습률 스케줄링 및 조기 정지 기법을 적용하였다.
• 조건부 GAN을 사용하여 코로나19 X선 영상의 합성 이미지를 생성하였지만, GPU 제약과 하이퍼파ram터 민감도로 인해 제한되었다.
• 기존 불균형 데이터셋의 소수 클래스 표현을 향상시키기 위해 다른 케글 챌린지에서 확보한 외부 코로나19 X선 영상 데이터를 데이터셋에 추가하였다.

실험 결과

연구 질문

• RQ1 이미지넷으로 사전 훈련된 모델 또는 무작위 초기화 모델과 비교해, 체크넷으로 사전 훈련된 모델를 사용한 전이학습이 불균형 흉부 X선 영상 데이터셋에서 분류 성능을 향상시키는가?
• RQ2 포칼 손실이 교차엔트로피 손실과 비교해 코로나19와 같은 소수 클래스의 분류 정확도 향상에 얼마나 기여하는가?
• RQ3 데이터 증강 및 합성 데이터 생성이 제한된 실세계 의료 영상 데이터에서 모델의 일반화 능력을 얼마나 향상시키는가?
• RQ4 공개 데이터셋에서 확보한 외부 코로나19 X선 영상 데이터를 기존 불균형 데이터셋에 추가할 경우 모델 성능이 상당히 향상되는가?

주요 결과

• 체크넷으로 사전 훈련된 DenseNet121이 추가적인 코로나19 샘플을 추가한 후 최고의 테스트 정확도 84.6%를 기록하여 다른 모델을 능가하였다.
• 포칼 손실은 표준 교차엔트로피 손실보다 검증 및 테스트 정확도를 향상시켰으며, 특히 부족한 코로나19 클래스에 대해 유의미한 개선을 보였다.
• 체크넷으로 사전 훈련된 DenseNet121을 사용한 모델는 데이터 확장을 거친 후 검증 정확도 81.83%와 테스트 정확도 84.6%를 달성하여 강력한 일반화 능력을 보였다.
• 데이터 증강과 포칼 손실을 적용한 상황에서도 전이학습 없이 훈련된 기본 ResNet50 모델의 테스트 정확도는 71.11%에 머물러 있어 사전 훈련의 중요성을 입증하였다.
• 외부 코로나19 X선 영상 데이터의 추가로 모델 성능이 크게 향상되어 테스트 정확도가 75.56%에서 84.6%로 상승하였다.
• 노력에도 불구하고 GAN 기반의 데이터 생성은 훈련의 불안정성과 하드웨어 제약으로 인해 현실적인 코로나19 영상을 생성하지 못하였다.