[논문 리뷰] Ensemble-CVDNet: A Deep Learning based End-to-End Classification Framework for COVID-19 Detection using Ensembles of Networks

Coşku Öksüz, Oğuzhan Urhan외 1명|arXiv (Cornell University)|2020. 12. 09.

COVID-19 diagnosis using AI참고 문헌 33인용 수 6

한 줄 요약

Ensemble-CVDNet는 콘텐츠 기반 흉부 X-ray 영상의 세 가지 카테고리인 코로나19 폐렴, 비코로나19 바이러스성 폐렴, 건강한 상태로 분류하는 경량이며 엔드 투 엔드 딥 러닝 프레임워크이다. 이 모델은 오직 562만 개의 파라미터로 98.30%의 정확도, 97.78%의 민감도, 97.61%의 F1 스코어를 기록했으며, 중급 GPU에서 이미지를 약 10ms 내로 처리한다.

ABSTRACT

The new type of coronavirus disease (COVID-19), which started in Wuhan, China in December 2019, continues to spread rapidly affecting the whole world. It is essential to have a highly sensitive diagnostic screening tool to detect the disease as early as possible. Currently, chest CT imaging is preferred as the primary screening tool for evaluating the COVID-19 pneumonia by radiological imaging. However, CT imaging requires larger radiation doses, longer exposure time, higher cost, and may suffer from patient movements. X-Ray imaging is a fast, cheap, more patient-friendly and available in almost every healthcare facility. Therefore, we have focused on X-Ray images and developed an end-to-end deep learning model, i.e. Ensemble-CVDNet, to distinguish COVID-19 pneumonia from non-COVID pneumonia and healthy cases in this work. The proposed model is based on a combination of three lightweight pre-trained models SqueezeNet, ShuffleNet, and EfficientNet-B0 at different depths, and combines feature maps in different abstraction levels. In the proposed end to-end model, networks are used as feature extractors in parallel after fine-tuning, and some additional layers are used at the top of them. The proposed model is evaluated in the COVID-19 Radiography Database, a public data set consisting of 219 COVID-19, 1341 Healthy, and 1345 Viral Pneumonia chest X-Ray images. Experimental results show that our lightweight Ensemble-CVDNet model provides 98.30% accuracy, 97.78% sensitivity, and 97.61% F1 score using only 5.62M parameters. Moreover, it takes about 10ms to process and predict an X-Ray image using the proposed method using a mid level GPU. We believe that the method proposed in this study can be a helpful diagnostic screening tool for radiologists in the early diagnosis of the disease.

연구 동기 및 목표

• 흉부 X-ray 영상의 조기 진단을 위해 빠르고 정확하며 경량인 딥 러닝 모델을 개발하는 것.
• CT 스캔의 단점인 높은 방사선 선량, 높은 비용, 제한된 가용성 문제를 해결하기 위해 광범위하게 이용 가능한 X-ray 영상 기반 접근법을 활용하는 것.
• 다양한 추상화 수준에서 사전 훈련된 여러 모델의 특징 맵을 융합하여 분류 성능을 향상시키는 것.
• 최소한의 계산 자원으로도 임상 환경에 구현 가능한 엔드 투 엔드 프레임워크를 구축하는 것.
• 특히 자원이 제한된 환경에서 조기 진단을 위해 높은 민감도와 F1 스코어를 달성하는 것.

제안 방법

• 모델은 세 가지 경량 사전 훈련된 CNN—SqueezeNet, ShuffleNet, 그리고 EfficientNet-B0—의 앙상블을 사용하며, 각각 COVID-19 Radiography Dataset에서 미세 조정된다.
• 세 네트워크의 다양한 깊이에서 생성된 특징 맵이 연결되어 다중 수준의 추상화를 포착하여 표현 학습을 향상시킨다.
• 융합된 특징은 최종 분류를 위해 추가적인 완전 연결층과 드롭아웃 층을 통과한다. 세 가지 클래스로 분류된다: 코로나19, 비코로나19 폐렴, 건강.
• 전이 학습을 사용하여 사전 훈련된 모델을 의료 영상 작업에 적응시키기 위해 전체 네트워크를 엔드 투 엔드 방식으로 훈련한다.
• 예측의 정확도와 일반화 능력을 향상시키기 위해 세 가지 기본 네트워크의 예측을 평균화하는 앙상블 전략을 적용한다.
• 표준 교차 엔트로피 손실과 학습률 스케줄링을 적용한 Adam 옵timizer를 사용하여 모델을 최적화한다.

실험 결과

연구 질문

• RQ1 경량 사전 훈련된 CNN의 앙상블이 코로나19, 비코로나19 폐렴, 건강 상태로 분류하는 흉부 X-ray 영상에 대해 높은 진단 성능를 달성할 수 있는가?
• RQ2 다른 아키텍처 설계를 가진 여러 네트워크의 특징 맵을 융합하면 분류 정확도와 강건성이 어떻게 향상되는가?
• RQ3 제한된 의료 영상 데이터셋에서 파라미터 수가 적은 모델(600만 이하)이 높은 성능을 유지할 수 있는 정도는 어느 정도인가?
• RQ4 제안된 방법이 중급 수준 하드웨어에서 임상 적용에 적합한 실시간 추론 속도를 달성할 수 있는가?
• RQ5 동일한 기준 데이터셋에서 기존 접근법과 비교해 본 모델의 민감도와 F1 스코어는 어떻게 되는가?

주요 결과

• 모델은 COVID-19 Radiography Database에서 98.30%의 분류 정확도를 기록했으며, 정확도와 파라미터 효율성 측면에서 많은 기존 방법들을 능가했다.
• 모델은 97.78%의 민감도를 보였으며, 이는 코로나19 환자를 정확히 식별할 수 있는 능력이 뛰어나다는 것을 의미한다. 이는 조기 진단에 매우 중요하다.
• F1 스코어 97.61%는 정밀도와 재현율의 균형 잡힌 조화 평균을 반영하며, 모든 클래스에서 견고한 성능을 보임을 확인한다.
• 오직 562만 개의 파라미터로 구성되어 있어 매우 높은 파라미터 효율성을 보이며, 자원이 제한된 임상 환경에서의 구현에 적합하다.
• 중급 GPU에서 이미지당 약 10ms의 추론 시간을 기록하여 실시간 추론 능력을 갖춘 것으로 나타났다.
• SqueezeNet, ShuffleNet, 그리고 EfficientNet-B0의 앙상블은 개별 모델보다 뛰어난 성능을 달성했으며, 다양한 아키텍처 간 특징 수준 융합의 효과성을 입증했다.