[논문 리뷰] COVID-DA: Deep Domain Adaptation from Typical Pneumonia to COVID-19

Yifan Zhang, Shuaicheng Niu외 7명|arXiv (Cornell University)|2020. 04. 30.

COVID-19 diagnosis using AI참고 문헌 52인용 수 57

한 줄 요약

COVID-DA는 도메인 공유 및 도메인-특정 분류기를 해체하고 특징 및 결합 분포를 정렬함으로써 일반적인 폐렴에서 COVID-19 진단으로 지식을 이전하는 도메인 적응 프레임워크를 도입합니다.

ABSTRACT

The outbreak of novel coronavirus disease 2019 (COVID-19) has already infected millions of people and is still rapidly spreading all over the globe. Most COVID-19 patients suffer from lung infection, so one important diagnostic method is to screen chest radiography images, e.g., X-Ray or CT images. However, such examinations are time-consuming and labor-intensive, leading to limited diagnostic efficiency. To solve this issue, AI-based technologies, such as deep learning, have been used recently as effective computer-aided means to improve diagnostic efficiency. However, one practical and critical difficulty is the limited availability of annotated COVID-19 data, due to the prohibitive annotation costs and urgent work of doctors to fight against the pandemic. This makes the learning of deep diagnosis models very challenging. To address this, motivated by that typical pneumonia has similar characteristics with COVID-19 and many pneumonia datasets are publicly available, we propose to conduct domain knowledge adaptation from typical pneumonia to COVID-19. There are two main challenges: 1) the discrepancy of data distributions between domains; 2) the task difference between the diagnosis of typical pneumonia and COVID-19. To address them, we propose a new deep domain adaptation method for COVID-19 diagnosis, namely COVID-DA. Specifically, we alleviate the domain discrepancy via feature adversarial adaptation and handle the task difference issue via a novel classifier separation scheme. In this way, COVID-DA is able to diagnose COVID-19 effectively with only a small number of COVID-19 annotations. Extensive experiments verify the effectiveness of COVID-DA and its great potential for real-world applications.

연구 동기 및 목표

• COVID-19 주석이 드문 상황에서 흉부 방사선 사진으로 COVID-19를 진단하는 동기를 제공합니다.
• 폐렴과 COVID-19 간의 도메인 분포 불일치 및 작업 차이를 모두 다룹니다.
• 레이블이 제한된 대상 라벨을 사용하여 폐렴 데이터를 활용해 COVID-19 진단을 개선하는 깊은 학습 모델을 개발합니다.

제안 방법

• 도메인 공유 특징 추출기를 사용해 도메인 불변 표현을 학습합니다.
• 두 개의 도메인 판별기를 도입해 특징 분포와 결합 특징-예측 분포를 정렬합니다.
• 도메인 공유 분류기와 두 도메인-특정 분류기로 구성된 분류기 분리 체계를 도입합니다.
• 도메인 공유 분류기와 도메인-특정 분류기 간의 다양성을 최대화해 도메인 전용 정보를 포착합니다.
• 표적 라벨 불균형을 처리하고 판별력을 향상시키기 위해 focal loss로 학습합니다.

실험 결과

연구 질문

• RQ1 도메인 적대 학습이 도메인 간 편차에도 불구하고 폐렴 이미지와 COVID-19 이미지의 특징을 정렬할 수 있을까?
• RQ2 공유 및 도메인-특정 구성요소로 분리된 분류기가 제한된 대상 라벨에서 COVID-19 진단을 개선할 수 있을까?
• RQ3 분류기 간의 다양성 explicit 최대화가 교차 도메인 진단 성능에 어떤 영향을 미치는가?
• RQ4 COVID-DA가 COVID-19 진단에서 베이스라인 및 다른 도메인 적응 방법과 비교하여 어떤 성능을 보이는가?
• RQ5 의료 영상 데이터셋에서 흔한 클래스 불균형에 이 방법이 얼마나 Robust한가?

주요 결과

• COVID-DA는 평가된 방법 중 COVID-19 진단에서 F1 92.98% 및 AUC 0.985의 최고치를 달성합니다.
• COVID-DA는 Source-only, Target-only, Fine-tuning 및 표준 DA 방법들(MCD, DANN, DSN, DMAN)과 Semi-supervised DA 방법들(SDT, semi-DMAN)을 능가합니다.
• Abalation 연구는 모든 구성요소들(특징 적대적 적응, 분류자 적대적 적응, 분류자 다양성, focal loss)이 성능 향상에 기여함을 보여줍니다.
• 시각적 Grad-CAM 분석은 도메인 공유 및 대상-특이적 분류기가 진단을 위한 보완적 영역에 초점을 맞춤을 시사합니다.
• 도메인 공유 및 도메인-특정 분류기의 앙상블은 임상 사용을 위한 강건성과 해석 가능성을 향상시킵니다.