[論文レビュー] COVID-MobileXpert: On-Device COVID-19 Patient Triage and Follow-up using Chest X-rays

Xin Li, Chengyin Li+1 more|arXiv (Cornell University)|Apr 6, 2020

COVID-19 diagnosis using AI参考文献 63被引用数 25

ひとこと要約

COVID-MobileXpertは、胸部X線を用いて、リアルタイムのCOVID-19トリアージおよび放射線的経過予測を実現する、軽量でデバイス内でのディープラーニングシステムを提案する。本研究では、事前に訓練された主治医ネットワーク、微調整されたレジidencyネットワーク、および軽量な医学生ネットワークを用いた、新規の3プレイヤー知識移行および蒸留フレームワークを採用することで、正確でプライバシー保護が施され、効率的なデバイス内分類とフォローアップを実現した。その結果、モバイルデバイス上での放射線的悪化予測において、AUROCが0.883に達した。

ABSTRACT

During the COVID-19 pandemic, there has been an emerging need for rapid, dedicated, and point-of-care COVID-19 patient disposition techniques to optimize resource utilization and clinical workflow. In view of this need, we present COVID-MobileXpert: a lightweight deep neural network (DNN) based mobile app that can use chest X-ray (CXR) for COVID-19 case screening and radiological trajectory prediction. We design and implement a novel three-player knowledge transfer and distillation (KTD) framework including a pre-trained attending physician (AP) network that extracts CXR imaging features from a large scale of lung disease CXR images, a fine-tuned resident fellow (RF) network that learns the essential CXR imaging features to discriminate COVID-19 from pneumonia and/or normal cases with a small amount of COVID-19 cases, and a trained lightweight medical student (MS) network to perform on-device COVID-19 patient triage and follow-up. To tackle the challenge of vastly similar and dominant fore- and background in medical images, we employ novel loss functions and training schemes for the MS network to learn the robust features. We demonstrate the significant potential of COVID-MobileXpert for rapid deployment via extensive experiments with diverse MS architecture and tuning parameter settings. The source codes for cloud and mobile based models are available from the following url: https://github.com/xinli0928/COVID-Xray.

研究の動機と目的

• パンデミック期における、迅速でポイント・オブ・ケアでのCOVID-19患者のトリアージおよびフォローアップの緊急的なニーズに対応し、医療リソースの最適化を図ること。
• 既存のデバイス内医療AIシステムの制限を克服すること。これらのシステムは一般的に、基本的な画像表示に限定されており、診断能力を欠いている。
• モバイルデバイスにデプロイ可能な、軽量でプライバシー保護が施され、正確なディープラーニングモデルを、胸部X線画像からのCOVID-19分類に用いること。
• 連続する胸部X線画像を用いて、入院患者の病状悪化を検出可能な、縦断的放射線的経過予測を可能にすること。
• 限られたラベル付きCOVID-19データを前提として、大規模な事前訓練済みモデルからコンactなデバイス内ネットワークへ知識を効果的に移転するフレームワークを設計すること。

提案手法

• 3プレイヤー知識移行および蒸留（KTD）フレームワークを提案：大規模な肺疾患X線画像データセットで事前訓練された主治医（AP）ネットワーク、少量のラベル付きCOVID-19、肺炎、正常の胸部X線画像で微調整されたレジidency（RF）ネットワーク、および知識蒸留によって訓練された軽量な医学生（MS）ネットワークを用いる。
• APネットワークからRFネットワークへの知識移行を実施し、限られたCOVID-19データ上でも特徴表現力を向上させ、一般化性能を向上させる。
• 医療画像における類似したフォアグラウンドおよびバックグラウンドパターンに対する耐性を高めるために、MSネットワークに新しい損失関数および学習スキームを適用する。
• PyTorch Mobileフレームワークを用いて、MSネットワークをモバイルデバイスにデプロイし、低遅延かつ高プライバシーを実現したデバイス内推論を実現する。
• 分類および経過予測タスクの両方において、AUROCと正答率という指標を用いてモデル性能を評価し、複数のMSアーキテクチャ（例：MobileNetV2、SqueezeNet）を比較する。
• 6台のAndroidデバイスを用いた体系的なリソース消費分析を実施し、CPU、メモリ、エネルギー使用量を評価し、デバイス別に最適なデプロイメント推奨を導く。

実験結果

リサーチクエスチョン

• RQ1 軽量でデバイス内でのディープラーニングモデルは、限られたリソースと患者のプライバシーを守りながら、胸部X線からのCOVID-19分類において高い正確性を達成できるか？
• RQ2 限られたラベル付きデータを前提とした場合、大規模な事前訓練済みモデルからコンパクトなデバイス内ネットワークへ知識を効果的に移転する3プレイヤー知識蒸留フレームワークの有効性はいかほどか？
• RQ3 単一画像特徴と比較して、縦断的X線特徴は、放射線的経過予測をどの程度向上させ得るか？
• RQ4 異なるモバイルハードウェアプラットフォームにおいて、モデルの正確性とリソース消費量（CPU、メモリ、エネルギー）のトレードオフはどのようなものか？
• RQ5 新規損失関数は、特にCOVID-19と肺炎の間の微細な差を区別する必要がある医療画像における、知識蒸留の耐性をどのように向上させるか？

主な発見

• 提案された3プレイヤーKTDフレームワークは、限られたラベル付きCOVID-19データの中でも、大規模な事前訓練済みネットワークからの知識移行を活用することで、軽量なデバイス内モデルの性能を顕著に向上させた。
• MobileNetV2ベースのMSネットワークは、放射線的悪化予測においてAUROCが0.883に達し、連続するX線画像を用いたデバイス内フォローアップの強力な可能性を示した。
• SqueezeNetベースのMSネットワークは、MobileNetV2と比較してわずかに低い正確性であったが、リソース消費量が低く、低スペックのモバイルデバイスに適している。
• デバイス間でのリソース消費量は、ハードウェアの進化に伴い低下傾向にあり、最新のモバイルデバイスでは高精度なモデルを効率的に実行可能であることが示された。
• 新規損失関数の導入により、X線画像における類似したフォアグラウンドおよびバックグラウンドパターンに対しても、知識蒸留の耐性が向上し、MSネットワークがより特徴的な特徴を効果的に学習できるようになった。
• バランスの取れたデータセット上で、ベースラインのダミー分類器（AUROC 0.600）を上回ったことから、縦断的X線画像からの特徴連結が、単一画像アプローチに比べて経過予測の性能向上に寄与することが実証された。