[論文レビュー] Ensemble-CVDNet: A Deep Learning based End-to-End Classification Framework for COVID-19 Detection using Ensembles of Networks

Coşku Öksüz, Oğuzhan Urhan+1 more|arXiv (Cornell University)|Dec 9, 2020

COVID-19 diagnosis using AI参考文献 33被引用数 6

ひとこと要約

Ensemble-CVDNet は、微調整された SqueezeNet、ShuffleNet、EfficientNet-B0 モデルを組み合わせた軽量でエンド・ツー・エンドのディープラーニングフレームワークであり、チアックX線画像を COVID-19肺炎、非COVIDウイルス性肺炎、健康の3つのカテゴリに分類する。モデルはパrameter数がたったの 5.62 million で、中程度のGPU上で約 10ms の処理時間で、98.30% の正確性、97.78% の感度、97.61% のF1スコアを達成した。

ABSTRACT

The new type of coronavirus disease (COVID-19), which started in Wuhan, China in December 2019, continues to spread rapidly affecting the whole world. It is essential to have a highly sensitive diagnostic screening tool to detect the disease as early as possible. Currently, chest CT imaging is preferred as the primary screening tool for evaluating the COVID-19 pneumonia by radiological imaging. However, CT imaging requires larger radiation doses, longer exposure time, higher cost, and may suffer from patient movements. X-Ray imaging is a fast, cheap, more patient-friendly and available in almost every healthcare facility. Therefore, we have focused on X-Ray images and developed an end-to-end deep learning model, i.e. Ensemble-CVDNet, to distinguish COVID-19 pneumonia from non-COVID pneumonia and healthy cases in this work. The proposed model is based on a combination of three lightweight pre-trained models SqueezeNet, ShuffleNet, and EfficientNet-B0 at different depths, and combines feature maps in different abstraction levels. In the proposed end to-end model, networks are used as feature extractors in parallel after fine-tuning, and some additional layers are used at the top of them. The proposed model is evaluated in the COVID-19 Radiography Database, a public data set consisting of 219 COVID-19, 1341 Healthy, and 1345 Viral Pneumonia chest X-Ray images. Experimental results show that our lightweight Ensemble-CVDNet model provides 98.30% accuracy, 97.78% sensitivity, and 97.61% F1 score using only 5.62M parameters. Moreover, it takes about 10ms to process and predict an X-Ray image using the proposed method using a mid level GPU. We believe that the method proposed in this study can be a helpful diagnostic screening tool for radiologists in the early diagnosis of the disease.

研究の動機と目的

• 胸部X線画像を用いたCOVID-19の早期検出を目的とした、高速で正確かつ軽量なディープラーニングモデルの開発。
• CTスキャンの限界（高線量被曝、高コスト、入手困難）を補うために、広く利用可能なX線画像を活用すること。
• 異なる抽象レベルでの特徴マップを複数の事前学習済みモデルから統合することで、分類性能を向上させること。
• 最小限の計算リソースで臨床現場に容易に導入可能なエンド・ツー・エンドのフレームワークを構築すること。
• 特にリソースが限られた環境においても、早期診断に適した高い感度とF1スコアを達成すること。

提案手法

• モデルは、SqueezeNet、ShuffleNet、EfficientNet-B0 の3つの軽量で事前学習済みの畳み込みニューラルネットワーク（CNN）のアンサンブルを採用し、COVID-19 Radiography Dataset で微調整した。
• 3つのネットワークの異なる深さにおける特徴マップを連結することで、多層的な抽象表現を捉え、表現学習を向上させる。
• 統合された特徴は、最終的な3クラス分類（COVID-19、非COVID肺炎、健康）のための追加の全結合層およびドロップアウト層を通過する。
• 事前学習済みモデルを医療画像認識タスクに適応させるために、トランスファー学習を用いてエンド・ツー・エンドでネットワーク全体を訓練した。
• 予測の整合性と一般化性能を向上させるために、3つのベースネットワークの出力を平均化するアンサンブル戦略を適用した。
• 標準的な交差エントロピー損失関数と、学習率スケジューリングを用いたAdam最適化手法でモデルを最適化した。

実験結果

リサーチクエスチョン

• RQ1 軽量で事前学習済みのCNNのアンサンブルは、胸部X線画像をCOVID-19、非COVIDウイルス性肺炎、健康の3クラスに分類するタスクで高い診断性能を達成できるか？
• RQ2 異なるアーキテクチャを持つ複数のネットワークからの特徴マップを統合することで、分類精度と耐性（ロバストネス）がどのように向上するか？
• RQ3 パrameter数が600万未満の小型モデルが、限られた医療画像データセットにおいても高い性能を維持できるか、その限界はどこか？
• RQ4 提案手法は、中程度のハードウェア上で臨床現場に適したリアルタイム推論速度を達成できるか？
• RQ5 同じベンチマークデータセット上で、既存の手法と比較して本モデルの感度とF1スコアはどの程度優れているか？

主な発見

• モデルはCOVID-19 Radiography Database において98.30%の分類正確性を達成し、正確性とパrameter効率の両面で多くの既存手法を上回った。
• 97.78%の感度を示し、COVID-19症例を正確に同定できる能力が強く、早期検出にとって極めて重要であることが裏付けられた。
• F1スコアが97.61%であったことから、適合率と再現率のバランスの取れた調和平均が得られ、全クラスにわたる安定した性能が確認された。
• わずか5.62 million のパrameterで、リソースが限られた臨床環境への導入に適した極めてパラメータ効率の高いモデルであった。
• 中程度のGPU上での推論時間は1枚あたり約10msであり、リアルタイム推論が可能であることが示された。
• SqueezeNet、ShuffleNet、EfficientNet-B0 のアンサンブルは、個々のモデルよりも優れた性能を発揮し、異なるアーキテクチャ間での特徴レベル統合の有効性が裏付けられた。