[논문 리뷰] UncertaintyFuseNet: Robust Uncertainty-aware Hierarchical Feature Fusion Model with Ensemble Monte Carlo Dropout for COVID-19 Detection

Moloud Abdar, Soorena Salari외 8명|arXiv (Cornell University)|2021. 05. 18.

COVID-19 diagnosis using AI인용 수 4

한 줄 요약

이 논문은 흉부 CT 및 X-ray 영상에서 계층적 특징을 융합하기 위해 앙상블 몬테카를로 드롭아웃을 사용하는 불확실성 인식 COVID-19 진단을 위한 딥러닝 모델인 UncertaintyFuseNet을 제안한다. CT 스캔에서는 99.08%의 정확도를, X-ray에서는 96.35%의 정확도를 기록하여 노이즈와 분포 외 데이터에 대한 뛰어난 강건성을 입증한다.

ABSTRACT

The COVID-19 (Coronavirus disease 2019) pandemic has become a major global threat to human health and well-being. Thus, the development of computer-aided detection (CAD) systems that are capable to accurately distinguish COVID-19 from other diseases using chest computed tomography (CT) and X-ray data is of immediate priority. Such automatic systems are usually based on traditional machine learning or deep learning methods. Differently from most of existing studies, which used either CT scan or X-ray images in COVID-19-case classification, we present a simple but efficient deep learning feature fusion model, called UncertaintyFuseNet, which is able to classify accurately large datasets of both of these types of images. We argue that the uncertainty of the model's predictions should be taken into account in the learning process, even though most of existing studies have overlooked it. We quantify the prediction uncertainty in our feature fusion model using effective Ensemble MC Dropout (EMCD) technique. A comprehensive simulation study has been conducted to compare the results of our new model to the existing approaches, evaluating the performance of competing models in terms of Precision, Recall, F-Measure, Accuracy and ROC curves. The obtained results prove the efficiency of our model which provided the prediction accuracy of 99.08\% and 96.35\% for the considered CT scan and X-ray datasets, respectively. Moreover, our UncertaintyFuseNet model was generally robust to noise and performed well with previously unseen data. The source code of our implementation is freely available at: https://github.com/moloud1987/UncertaintyFuseNet-for-COVID-19-Classification.

연구 동기 및 목표

• 의료 영상 기반 COVID-19 진단을 위한 기존 딥러닝 모델에서의 불확실성 측정 부족 문제를 해결한다.
• 더 높은 진단 정확도를 위해 CT 및 X-ray 영상 모두를 처리할 수 있는 통합형 강건한 특징 융합 모델을 개발한다.
• 학습 및 추론 과정에 불확실성 추정을 통합하여 모델 신뢰도를 향상시킨다.
• 임상 적용 시나리오에서 노이즈 및 알려지지 않은 데이터에 대한 일반화 및 강건성을 확보한다.
• 다른 복잡한 질병 진단 작업에 적용 가능한 확장성 있고 일반화 가능한 프레임워크를 제공한다.

제안 방법

• 사전 훈련된 CNN에서 추출한 저수준 및 고수준 특징을 융합하는 계층적 특징 융합 아키텍처를 사용한다.
• 추론 중 드롭아웃을 활성화한 다중 전방 전파를 통해 앙상블 몬테카를로 드롭아웃(EMCD)을 통합하여 모델 불확실성 추정을 수행한다.
• 최종 분류 이전에 다양한 영상 모odalities의 특징을 융합하기 위해 초기 융합 전략을 사용한다.
• 일반화를 향상시키기 위해 가중치 정규화와 데이터 증강을 적용한 교차 엔트로피 손실을 사용해 모델을 훈련한다.
• 모든 클래스에서의 일관된 성능을 검증하기 위해 클래스별 분석 및 강건성 평가를 수행한다.
• 융합 이전에 모odal별 표현을 추출하기 위해 공유 및 모달리티 전용 레이어를 포함한 이중 브랜치 인코더 구조를 활용한다.

실험 결과

연구 질문

• RQ1 통합 딥러닝 모델이 CT 및 X-ray 영상의 특징을 효과적으로 융합하여 COVID-19 진단 정확도를 향상시킬 수 있는가?
• RQ2 앙성 MC 드롭아웃을 통한 불확실성 측정 통합이 의료 진단에서 모델 신뢰도 및 해석 가능성에 어떻게 기여하는가?
• RQ3 제안된 모델이 노이즈에 얼마나 강건하며, 알 수 없는 또는 분포 외 샘플을 탐지할 수 있는가?
• RQ4 기본 베이스라인 데이터셋에서 표준 기준 벤치마크 성능 기준으로 정밀도, 재현율, F-측정치 및 AUC-ROC 측면에서 최신 기술 모델과 비교해 볼 때 모델 성능은 어떠한가?
• RQ5 다양한 영상 모달리티 간에서 일반화가 가능하며, 미세조정 없이도 높은 성능을 유지할 수 있는가?

주요 결과

• UncertaintyFuseNet은 CT 스캔 데이터셋에서 99.08%의 정확도를 기록하여 ResNet50 및 DeTraC를 포함한 모든 베이스라인 모델을 뛰어넘었다.
• X-ray 데이터셋에서는 96.35%의 정확도를 달성하여 DarkCovidNet 및 베이지안 딥러닝과 같은 최신 기술 모델을 초월했다.
• 모델는 노이즈에 매우 강건하여 악성 데이터 조건에서도 뛰어난 성능을 유지했다.
• 앙성 MC 드롭아웃 통합으로 안정적인 불확실성 추정이 가능해져, 알 수 없는 또는 이질적인 케이스를 높은 신뢰도로 탐지할 수 있었다.
• 클래스별 분석을 통해 모든 진단 카테고리에서 균형 잡힌 신뢰성 있는 예측 성능이 유지됨을 확인했다.
• 정밀도, 재현율, F-측정치 및 ROC-AUC와 같은 종합적인 지표를 통해 모델의 성능이 기존 방법보다 뛰어나다는 것이 검증되었다.