[논문 리뷰] COVID-MobileXpert: On-Device COVID-19 Screening using Snapshots of Chest X-Ray

Xin Li, Chengyin Li외 1명|arXiv (Cornell University)|2020. 04. 13.

COVID-19 diagnosis using AI참고 문헌 50인용 수 59

한 줄 요약

COVID-MobileXpert는 흉부 X선 촬영 사진의 노이즈가 많은 스냅샷을 사용하여 장치 내에서 빠르고 정확하게 코로나19를 선별할 수 있는 경량 딥 뉴럴 네트워크(DNN) 기반 모바일 앱입니다. 이는 사전 훈련된 주치의 네트워크, 미세조정된 임상의 네트워크, 그리고 경량 의학 학생 네트워크로 구성된 혁신적인 삼자 지식 이전 및 정련 프레임워크를 활용하여 저품질 이미지에서도 강건한 특징을 추출하고 높은 정확도를 달성합니다. 이는 모바일 및 주요 의료 현장에서의 구현을 가능하게 합니다.

ABSTRACT

With the increasing demand for millions of COVID-19 screenings, Computed Tomography (CT) based test has emerged as a promising alternative to the gold standard RT-PCR test. However, it is primarily provided in hospital setting due to the need for expensive equipment and experienced radiologists. An accurate, rapid yet inexpensive test that is suitable for COVID-19 population screenings at mobile, urgent and primary care clinics is urgently needed. We present COVID-MobileXpert: a lightweight deep neural network (DNN) based mobile app that can use noisy snapshots of chest X-ray (CXR) for point-of-care COVID-19 screening. We design and implement a novel three-player knowledge transfer and distillation (KTD) framework including a pre-trained attending physician (AP) network that extracts CXR imaging features from large scale of lung disease CXR images, a fine-tuned resident fellow (RF) network that learns the essential CXR imaging features to discriminate COVID-19 from pneumonia and/or normal cases using a small amount of COVID-19 cases, and a trained lightweight medical student (MS) network that performs on-device COVID-19 screening. To accommodate the need for screening using noisy snapshots of CXR images, we employ novel loss functions and training schemes for the MS network to learn the robust imaging features for accurate on-device COVID-19 screening. We demonstrate the strong potential of COVID-MobileXpert for rapid deployment via extensive experiments with diverse MS network architecture, CXR imaging quality, and tuning parameter settings. The source code of cloud and mobile based models are available from this https URL.

연구 동기 및 목표

• 병원 외부 환경에서의 빠른, 저비용, 확장 가능한 코로나19 선별 솔루션에 대한 긴급한 필요를 해결하기 위해.
• 노이즈가 많고 저품질의 흉부 X선 촬영 사진을 사용하더라도 높은 정확도를 유지하는 모바일 배포가 가능한 모델을 개발하기 위해.
• 장치 내 추론을 통해 응급의료소, 주요 클리닉 및 이동 진료 차량에서 현장에서의 선별을 가능하게 하기 위해.
• CT와 RT-PCR의 한계를 극복하기 위해, 흉부 X선 기반 진단을 위한 경량, 효율적이고 강건한 딥 러닝 모델을 만들기 위해.
• 전문가 수준의 영상 지식을 활용하여 소형이고 효율적인 모델을 설계함으로써 모바일 배포에 적합한 지식 이전 및 정련 프레임워크를 개발하기 위해.

제안 방법

• 세 명의 플레이어 지식 이전 및 정련(KTD) 프레임워크를 제안함: 대규모 폐질환 흉부 X선 데이터로 사전 훈련된 주치의(AP) 네트워크를 활용해 고수준 특징을 추출함.
• 코로나19 사례의 소규모 데이터셋으로 미세조정된 임상의(RF) 네트워크를 통해 코로나19, 폐렴 및 정상 사례를 구분하는 특징을 학습함.
• 임상의 네트워크에서 지식 정련을 통해 경량 의학 학생(MS) 네트워크를 훈련시켜 장치 내 추론을 최소한의 계산 비용으로 수행함.
• 실세계의 흉부 X선 스냅샷에서의 노이즈 및 품질 열화에 대한 강건성을 향상시키기 위해 MS 네트워크를 위한 새로운 손실 함수와 훈련 기법을 설계함.
• 모델 압축 및 정밀도 감소 기법을 통해 MS 네트워크를 최적화하여 엣지 기기에서 실시간 추론을 보장함.
• 모든 파이프라인은 다양한 흉부 X선 품질 수준, 네트워크 아키텍처 및 하이퍼파라미터 설정에서 평가되어 강건성과 일반화 능력을 검증함.

실험 결과

연구 질문

• RQ1 모바일 환경에서 노이즈가 많고 저품질의 흉부 X선 스냅샷만을 사용하여도 경량 딥 러닝 모델이 높은 진단 정확도를 달성할 수 있는가?
• RQ2 제안된 삼자 지식 이전 및 정련 프레임워크는 전문가 수준의 진단 지식을 소형, 장치 내 모델로 효과적으로 전이할 수 있는가?
• RQ3 MS 네트워크는 광범위한 이미지 품질과 임상 조건에서 광범위하게 일반화될 수 있는가? 이는 광범위한 레이블이 부여된 데이터가 필요하지 않은가?
• RQ4 새로운 손실 함수 설계가 실세계의 흉부 X선 스냅샷에서의 노이즈 및 잡음에 대해 어떻게 강건성을 향상시키는가?
• RQ5 이 프레임워크를 사용한 장치 내 추론의 성능 한계는 정확도, 속도, 모델 크기 측면에서 어떻게 평가되는가?

주요 결과

• 제안된 삼자 KTD 프레임워크는 제한된 훈련 데이터와 노이즈가 많은 입력 이미지에도 불구하고 경량 MS 네트워크가 높은 진단 정확도를 달성하도록 가능하게 함.
• MS 네트워크는 다양한 스냅샷 품질 수준에서 이미지 품질 열화에 대해 강력한 강건성을 보이며, 높은 성능을 유지함.
• 광범위한 아블레이션 연구를 통해 새로운 손실 함수가 저품질 영상 조건에서 특징 학습과 일반화를 크게 향상시킴을 확인함.
• 더 큰, 더 복잡한 모델들과 비교해도 경쟁 가능한 성능을 달성함으로써, 이 모델이 장치 내 배포에 적합함을 입증함.
• 클라우드 및 모바일 모델의 소스 코드가 공개되어 재현성과 임상 현장에서의 실질적 통합을 가능하게 함.
• 이 프레임워크는 주요의료소 및 이동 진료 클리닉에서 정확하고 장치 내 선별 도구를 신속하게 구현할 수 있도록 함으로써, CT 및 PCR 검사에 대한 의존도를 감소시킴.