[논문 리뷰] COVID-VIT: Classification of COVID-19 from CT chest images based on vision transformer models

Xiaohong Gao, Qian Yu외 1명|arXiv (Cornell University)|2021. 07. 04.

COVID-19 diagnosis using AI참고 문헌 14인용 수 43

한 줄 요약

이 논문은 CT 흉부 영상에서 COVID-19를 분류하기 위해 비전 트랜스포머(ViT)와 DenseNet을 비교하고, 검증 데이터에서 F1에서 ViT가 우수함을 발견했다.

ABSTRACT

This paper is responding to the MIA-COV19 challenge to classify COVID from non-COVID based on CT lung images. The COVID-19 virus has devastated the world in the last eighteen months by infecting more than 182 million people and causing over 3.9 million deaths. The overarching aim is to predict the diagnosis of the COVID-19 virus from chest radiographs, through the development of explainable vision transformer deep learning techniques, leading to population screening in a more rapid, accurate and transparent way. In this competition, there are 5381 three-dimensional (3D) datasets in total, including 1552 for training, 374 for evaluation and 3455 for testing. While most of the data volumes are in axial view, there are a number of subjects' data are in coronal or sagittal views with 1 or 2 slices are in axial view. Hence, while 3D data based classification is investigated, in this competition, 2D images remains the main focus. Two deep learning methods are studied, which are vision transformer (ViT) based on attention models and DenseNet that is built upon conventional convolutional neural network (CNN). Initial evaluation results based on validation datasets whereby the ground truth is known indicate that ViT performs better than DenseNet with F1 scores being 0.76 and 0.72 respectively. Codes are available at GitHub at .

연구 동기 및 목표

• 인구 선별을 위한 흉부 CT 영상에서 빠르고 explainable COVID-19 진단을 다룬다.
• ViT 기반 방법을 전통적 CNN(DenseNet)과 COVID vs 비-COVID 분류에 대해 비교한다.
• 실용성과 성능을 고려하여 3D CT 데이터셋을 활용하되 2D 슬라이스 기반 분류에 중점을 둔다.

제안 방법

• 흉부 CT 슬라이스에서 COVID-19를 분류하기 위해 ViT 및 DenseNet 아키텍처를 사용한다.
• 3D 볼륨과 슬라이스를 혼합한 데이터셋에서 성능을 평가한다(2D 이미지에 중점).
• 모델 비교를 위한 검증 데이터에서 F1 점수를 보고한다(ViT 대 DenseNet).
• 재현성을 위해 GitHub에서 코드 이용 가능성을 제공한다.

실험 결과

연구 질문

• RQ1 CT 흉부 영상에서 ViT가 검증 데이터에서 DenseNet보다 COVID-19 분류에 대해 뛰어난가?
• RQ2 이 작업에서 ViT와 DenseNet의 비교 F1 점수는 무엇인가?
• RQ3 평가된 설정에서 2D 슬라이스 기반 CT 데이터 대 3D 데이터의 분류 성능은 얼마나 효과적인가?
• RQ4 이 접근법이 실용적이고 인구 선별에 적합한 설명가능한가?

주요 결과

• ViT는 검증 데이터에서 DenseNet(0.72)보다 더 높은 F1 점수(0.76)를 달성했다.
• 연구는 총 5,381개의 3D 데이터셋을 사용하며 1,552개는 학습, 374개는 평가, 3,455개는 테스트 샘플이다.
• 대부분의 데이터 볼륨은 축상(axial)이지만, 일부 피험자는 관상이나 시상 뷰를 포함하여 1–2개의 축상 슬라이스를 포함한다; 2D 이미지는 여전히 주요 초점이다.
• COVID-ViT 접근법에 대한 코드는 GitHub에서 이용 가능하다.