[論文レビュー] An Uncertainty-aware Transfer Learning-based Framework for Covid-19 Diagnosis

Afshar Shamsi Jokandan, Hamzeh Asgharnezhad+6 more|arXiv (Cornell University)|Jul 26, 2020

COVID-19 diagnosis using AI参考文献 34被引用数 8

ひとこと要約

本稿では、胸部レントゲン画像およびCT画像を用いたCOVID-19診断のための不確実性を考慮した転移学習フレームワークを提案する。事前学習済みのCNN（VGG16、ResNet50、DenseNet121、InceptionResNetV2）を用いて特徴を抽出し、その後に線形SVMおよびニューラルネットワーク分類器を適用する。主な貢献は、エピステミック不確実性の定量化を統合したことであり、CT画像の予測ではX線画像と比較して顕著に高い不確実性が示された。線形SVMおよびニューラルネットワークが、最高の正確性、感度、特異度、AUCを達成した。

ABSTRACT

The early and reliable detection of COVID-19 infected patients is essential to prevent and limit its outbreak. The PCR tests for COVID-19 detection are not available in many countries and also there are genuine concerns about their reliability and performance. Motivated by these shortcomings, this paper proposes a deep uncertainty-aware transfer learning framework for COVID-19 detection using medical images. Four popular convolutional neural networks (CNNs) including VGG16, ResNet50, DenseNet121, and InceptionResNetV2 are first applied to extract deep features from chest X-ray and computed tomography (CT) images. Extracted features are then processed by different machine learning and statistical modelling techniques to identify COVID-19 cases. We also calculate and report the epistemic uncertainty of classification results to identify regions where the trained models are not confident about their decisions (out of distribution problem). Comprehensive simulation results for X-ray and CT image datasets indicate that linear support vector machine and neural network models achieve the best results as measured by accuracy, sensitivity, specificity, and AUC. Also it is found that predictive uncertainty estimates are much higher for CT images compared to X-ray images.

研究の動機と目的

• リソース制限のある環境におけるPCR検査の限界を補うために、医用画像を用いた早期で信頼性の高いCOVID-19検出のためのディープラーニングベースの代替手法を開発すること。
• X線およびCT画像におけるCOVID-19分類に、複数の事前学習済みCNN（VGG16、ResNet50、DenseNet121、InceptionResNetV2）を用いた転移学習の性能を調査すること。
• モデルの予測におけるエピステミック不確実性を定量化し、報告することで、特に分布外のサンプルにおいてモデルの自信のなさを特定すること。
• X線およびCT画像モalityに対して、抽出された深層特徴を用いたさまざまな機械学習および統計モデルの診断性能を比較すること。

提案手法

• X線およびCT画像から階層的かつ判別性の高い特徴を抽出するために、4つの事前学習済みCNN（VGG16、ResNet50、DenseNet121、InceptionResNetV2）を用いた転移学習を実施し、トレーニング中に畳み込み層を固定する。
• 抽出された特徴は、線形サポートベクターマシン（SVM）、マルチレイヤーパーセプトロン（MLP）、その他の機械学習モデルを用いて処理される。
• エピステミック不確実性は、隠れ層サイズが異なる（50〜400ニューロン）20個の個別ニューラルネットワークのアンサンブルを用いて定量化され、予測の不一致が高不確実性を示す。
• PCAで次元削減された特徴を用いた2次元空間に不確実性推定値を可視化し、色が濃いほど予測不確実性が高いことを示す。
• 性能評価には、正確性、感度、特異度、AUCといった標準指標を用い、結果は100回のランにわたって平均化して、妥当性を確保する。
• 本フレームワークはX線およびCT画像データセットの両方で評価され、異なるモデル間での不確実性レベルおよび分類性能の比較分析が行われた。

実験結果

リサーチクエスチョン

• RQ1 X線およびCT画像からのCOVID-19診断に適した特徴を抽出するにあたり、異なる事前学習済みCNNアーキテクチャ（VGG16、ResNet50、DenseNet121、InceptionResNetV2）は、どのように性能を発揮するか？
• RQ2 転移学習で得た特徴に適用した場合、線形SVMやニューラルネットワークなどの機械学習分類器のうち、正確性、感度、特異度、AUCの観点で最高の診断性能を達成するのはどれか？
• RQ3 X線画像とCT画像に基づくモデルにおける予測のエピステミック不確実性は、どのように異なるのか？これは臨床的信頼性にどのような示唆をもたらすか？
• RQ4 特にCT画像とX線画像の間で、20個のニューラルネットワークのアンサンブルにおけるモデル予測の不一致はどの程度顕著に現れるか？

主な発見

• 線形サポートベクターマシンおよびマルチレイヤーパーセプトロン分類器が、X線およびCT画像データセットの両方で最高の診断性能を示し、正確性、感度、特異度、AUCの観点で最良の結果を達成した。
• CT画像ではX線画像と比較して顕著に高いエピステミック不確実性推定値が得られ、CTベースの症例ではモデルの合意が少なく、予測に対する自信が低いことを示した。
• 20個のニューラルネットワークのアンサンブルは、CT画像の予測がはるかに一貫性がなく、2次元不確実性プロットの濃い領域に広範な高不確実性領域が可視化された。
• パrameter数が多いにもかかわらず、ResNet50 や InceptionResNetV2 といった深層ネットワークが、より情報の多い特徴を一貫して抽出しているわけではないことが判明し、モデルサイズと診断性能の間に明確な相関は見られなかった。
• 事前学習済みCNNアーキテクチャの選定が、全体の分類性能に顕著かつ直接的な影響を与えた。VGG16およびDenseNet121は、複数の指標で優れた結果を示した。
• 本研究は、不確実性定量化が臨床応用において不可欠であることを示した。CT予測における高い不確実性は、分布外のサンプルでモデルが失敗する可能性を示唆している。