[论文解读] COVID-MobileXpert: On-Device COVID-19 Screening using Snapshots of Chest X-Ray

Xin Li, Chengyin Li+1 more|arXiv (Cornell University)|Apr 13, 2020

COVID-19 diagnosis using AI参考文献 50被引用 59

一句话总结

COVID-MobileXpert 是一种基于轻量级深度神经网络（DNN）的移动应用程序，可在设备端实现快速、准确的新冠肺炎筛查，仅需使用胸部X光片（CXR）的嘈杂图像快照。该方法采用一种新颖的三玩家知识迁移与蒸馏框架——包含一个在大规模肺部疾病CX-R数据集上预训练的主治医师网络、一个在小规模新冠肺炎病例数据集上微调的住院医师网络，以及一个轻量级的医学生网络——以提取鲁棒特征，并在低质量图像下仍能实现高精度，从而实现移动设备和基层医疗环境中的部署。

ABSTRACT

With the increasing demand for millions of COVID-19 screenings, Computed Tomography (CT) based test has emerged as a promising alternative to the gold standard RT-PCR test. However, it is primarily provided in hospital setting due to the need for expensive equipment and experienced radiologists. An accurate, rapid yet inexpensive test that is suitable for COVID-19 population screenings at mobile, urgent and primary care clinics is urgently needed. We present COVID-MobileXpert: a lightweight deep neural network (DNN) based mobile app that can use noisy snapshots of chest X-ray (CXR) for point-of-care COVID-19 screening. We design and implement a novel three-player knowledge transfer and distillation (KTD) framework including a pre-trained attending physician (AP) network that extracts CXR imaging features from large scale of lung disease CXR images, a fine-tuned resident fellow (RF) network that learns the essential CXR imaging features to discriminate COVID-19 from pneumonia and/or normal cases using a small amount of COVID-19 cases, and a trained lightweight medical student (MS) network that performs on-device COVID-19 screening. To accommodate the need for screening using noisy snapshots of CXR images, we employ novel loss functions and training schemes for the MS network to learn the robust imaging features for accurate on-device COVID-19 screening. We demonstrate the strong potential of COVID-MobileXpert for rapid deployment via extensive experiments with diverse MS network architecture, CXR imaging quality, and tuning parameter settings. The source code of cloud and mobile based models are available from this https URL.

研究动机与目标

• 为解决医院外环境中对快速、低成本且可扩展的新冠肺炎筛查方案的迫切需求。
• 开发一种可部署于移动设备的模型，即使在使用嘈杂、低质量的胸部X光片快照时也能保持高精度。
• 通过设备端推理实现在急诊、基层诊所和移动医疗单元的即时筛查。
• 通过构建一种轻量级、高效且鲁棒的深度学习模型，克服CT和RT-PCR的局限性，实现基于CXR的诊断。
• 设计一种知识迁移与蒸馏框架，利用专家级影像学知识，为适合移动部署的小型高效模型提供支持。

提出的方法

• 提出一种三玩家知识迁移与蒸馏（KTD）框架：一个在大规模肺部疾病CX-R数据集上预训练的主治医师（AP）网络，用于提取高层级特征。
• 一个住院医师（RF）网络在少量新冠肺炎病例数据集上进行微调，以学习区分新冠肺炎、肺炎和正常病例的判别性特征。
• 一个轻量级医学生（MS）网络通过从RF网络蒸馏知识进行训练，实现在设备端推理时计算成本极低。
• 为MS网络设计了新颖的损失函数和训练方案，以增强其在真实CXR快照中图像噪声和质量退化情况下的鲁棒性。
• 通过模型压缩和量化技术对MS网络进行优化，以确保其在边缘设备上实现实时推理。
• 整个流程在不同CXR质量水平、网络架构和超参数设置下进行评估，以验证其鲁棒性和泛化能力。

实验结果

研究问题

• RQ1 轻量级深度学习模型是否能仅通过使用移动环境中嘈杂、低质量的胸部X光片快照，实现对新冠肺炎的高诊断准确率？
• RQ2 所提出的三玩家知识迁移与蒸馏框架在将专家诊断知识迁移至紧凑型设备端模型方面的有效性如何？
• RQ3 MS网络在缺乏大量标注数据的情况下，其在不同图像质量和临床条件下的泛化能力达到何种程度？
• RQ4 新颖的损失函数设计如何提升模型在真实CXR快照中图像噪声和伪影情况下的鲁棒性？
• RQ5 该框架在设备端推理的性能上限如何？具体体现在准确率、速度和模型大小方面？

主要发现

• 所提出的三玩家KTD框架使轻量级MS网络即使在训练数据有限且输入图像嘈杂的情况下，也能实现高诊断准确率。
• MS网络在图像质量退化方面表现出强大的鲁棒性，在各种快照质量下均保持高性能。
• 大量消融实验表明，新颖的损失函数显著提升了在低质量成像条件下的特征学习与泛化能力。
• 该模型在性能上与更大、更复杂的模型相当，验证了其在设备端部署的适用性。
• 云端和移动端模型的源代码已公开，支持可复现性，并可实现临床环境中的实际集成。
• 该框架可实现快速部署准确的设备端筛查工具，适用于基层医疗和移动医疗诊所，减少对CT和PCR检测的依赖。