[論文レビュー] Classification of COVID-19 in CT Scans using Multi-Source Transfer Learning

Alejandro Martínez|arXiv (Cornell University)|Sep 22, 2020

COVID-19 diagnosis using AI参考文献 19被引用数 7

ひとこと要約

本論文は、小規模なCOVID-19データセットに適応する前に、中間の肺CTデータセットでImageNet事前学習モデルをファインチューニングすることで、CTスキャンにおけるCOVID-19検出を向上させるマルチソース転移学習（MSTL）フレームワークを提案する。非教師ありラベル作成法を用いることで、深層残差ネットワークにおける性能が向上し、0.897のリCALLスコアを達成。これはベースライン比9.3%高い結果である。

ABSTRACT

Since December of 2019, novel coronavirus disease COVID-19 has spread around the world infecting millions of people and upending the global economy. One of the driving reasons behind its high rate of infection is due to the unreliability and lack of RT-PCR testing. At times the turnaround results span as long as a couple of days, only to yield a roughly 70% sensitivity rate. As an alternative, recent research has investigated the use of Computer Vision with Convolutional Neural Networks (CNNs) for the classification of COVID-19 from CT scans. Due to an inherent lack of available COVID-19 CT data, these research efforts have been forced to leverage the use of Transfer Learning. This commonly employed Deep Learning technique has shown to improve model performance on tasks with relatively small amounts of data, as long as the Source feature space somewhat resembles the Target feature space. Unfortunately, a lack of similarity is often encountered in the classification of medical images as publicly available Source datasets usually lack the visual features found in medical images. In this study, we propose the use of Multi-Source Transfer Learning (MSTL) to improve upon traditional Transfer Learning for the classification of COVID-19 from CT scans. With our multi-source fine-tuning approach, our models outperformed baseline models fine-tuned with ImageNet. We additionally, propose an unsupervised label creation process, which enhances the performance of our Deep Residual Networks. Our best performing model was able to achieve an accuracy of 0.893 and a Recall score of 0.897, outperforming its baseline Recall score by 9.3%.

研究の動機と目的

• ロバストなディープラーニングモデルを訓練するための、ラベル付きCOVID-19 CTスキャンデータが限られているという課題に対処する。
• ImageNetと医療CT画像の間のドメインシフトを克服するため、肺CTスキャンの中間移行データセットを導入する。
• 感染症スクリーニングにおいて極めて深刻な問題となる偽陰性を低減することで、COVID-19検出におけるモデル感受性を向上させる。
• 手動アノテーションを必要とせず、深層残差ネットワークの性能を向上させる非教師ありラベル作成プロセスを開発する。
• マルチソースファインチューニングが、ImageNet単一を用いた標準的な転移学習を上回ることを示す。

提案手法

• ImageNet ILSVRCデータセットで事前学習した複数のディープCNN（例：DenseNet169、ResNet101V2）をソースドメインとして使用する。
• SPIE-AAPM肺CTチャレンジから得た22,238枚の肺CTスライスからなる移行データセットで、事前学習モデルをファインチューニングし、医療画像特徴に適応させる。
• UCSDから提供された349例のCOVID-19および397例の正常CTスキャンからなるターゲットデータセットで、さらにファインチューニングを行い分類を実行する。
• モデルの信頼度に基づいてソフトラベルを割り当てる非教師ありラベル作成プロセスを実装し、低データ環境における一般化性能を向上させる。
• ハードラベル（2値）とソフトラベル（クラス確率）の2つのラベリング戦略を導入し、それらがモデル性能に与える影響を評価する。
• ImageNet（一般画像）、肺CT（中間医療ドメイン）、最終ターゲット（COVID-19対正常CT）という複数のソースドメインを用いた転移学習を適用する。

実験結果

リサーチクエスチョン

• RQ1 標準的なImageNetベースの転移学習と比較して、マルチソース転移学習は、CTスキャンにおけるCOVID-19分類のためのディープラーニングモデルの性能を向上させることができるか？
• RQ2 肺CTスキャンの中間移行データセットを導入することで、モデルの一般化性能およびCOVID-19への感受性にどのような影響を与えるか？
• RQ3 非教師ありラベル作成法は、低データ医療画像シナリオにおける深層残差ネットワークの性能をどの程度向上させるか？
• RQ4 ハードラベル対ソフトラベルという異なるラベリング戦略は、特にリCALLおよび偽陰性率の観点から、モデル性能にどのような影響を与えるか？
• RQ5 モデルアーキテクチャの複雑さ（例：ResNet対DenseNet）は、ラベリングおよびファインチューニング戦略の変化に伴い、性能にどのような影響を与えるか？

主な発見

• 最も優れた性能を示したモデルは、ResNet101V2にソフトラベルを適用したもので、リCALLスコアが0.897に達し、ベースラインモデル比9.3%の向上を示した。
• ソフトラベルを用いたResNet101V2モデルは、ハードラベルを用いたDenseNet169モデルよりも3例少ない偽陰性を示し、偽陰性が極めて深刻な臨床的状況においては、より適した選択肢であることが示された。
• ハードラベリング戦略ではDenseNetsがResNetsを上回ったが、ソフトラベリング戦略では逆にResNetsがDenseNetsを上回った。これは、アーキテクチャごとにラベリング手法への感受性が異なることを示している。
• マルチソース転移学習アプローチにより、ImageNetと医療CT画像の間のドメインギャップが顕著に縮小され、特徴学習および分類精度が向上した。
• 非教師ありラベル作成プロセスにより、特に深層残差ネットワークにおいて、ファインチューニング段階でのより洗練された監視が可能となり、モデル性能が向上した。
• 本研究では、特にターゲットデータが限られる状況において、ドメイン関連の中間データセットを統合することで、転移学習の性能が顕著に向上することを示した。