[論文レビュー] MedNet: Pre-trained Convolutional Neural Network Model for the Medical Imaging Tasks

Laith Alzubaidi, José Santamaría+7 more|arXiv (Cornell University)|Oct 13, 2021

AI in cancer detection参考文献 8被引用数 16

ひとこと要約

この論文では、医療画像処理タスクに特化した新しい事前学習畳み込みニューラルネットワーク、MedNetを提案する。2つのバリアントを有する：グレースケール医療画像（例：レントゲン、CT、MRI）300万枚で学習したGray-MedNetと、カラー医療画像（例：組織病理学）300万枚で学習したColor-MedNet。ドメイン固有の医療データで学習されたMedNetは、ドメインギャップを解消することでImageNetベースの転移学習を凌駕し、限られたアノテート済みデータでの下流タスクにおける医療画像分類の微調整性能を向上させる。

ABSTRACT

Deep Learning (DL) requires a large amount of training data to provide quality outcomes. However, the field of medical imaging suffers from the lack of sufficient data for properly training DL models because medical images require manual labelling carried out by clinical experts thus the process is time-consuming, expensive, and error-prone. Recently, transfer learning (TL) was introduced to reduce the need for the annotation procedure by means of transferring the knowledge performed by a previous task and then fine-tuning the result using a relatively small dataset. Nowadays, multiple classification methods from medical imaging make use of TL from general-purpose pre-trained models, e.g., ImageNet, which has been proven to be ineffective due to the mismatch between the features learned from natural images (ImageNet) and those more specific from medical images especially medical gray images such as X-rays. ImageNet does not have grayscale images such as MRI, CT, and X-ray. In this paper, we propose a novel DL model to be used for addressing classification tasks of medical imaging, called MedNet. To do so, we aim to issue two versions of MedNet. The first one is Gray-MedNet which will be trained on 3M publicly available gray-scale medical images including MRI, CT, X-ray, ultrasound, and PET. The second version is Color-MedNet which will be trained on 3M publicly available color medical images including histopathology, taken images, and many others. To validate the effectiveness MedNet, both versions will be fine-tuned to train on the target tasks of a more reduced set of medical images. MedNet performs as the pre-trained model to tackle any real-world application from medical imaging and achieve the level of generalization needed for dealing with medical imaging tasks, e.g. classification. MedNet would serve the research community as a baseline for future research.

研究の動機と目的

• 医療画像処理におけるデータ不足の課題に対処する。これは、専門家によるラベル付けコストが高いため、アノテート済みデータセットが限られるためである。
• 自然画像（例：ImageNet）と医療画像、特にグレースケールモダリティ（例：レントゲン、CT）との間のドメインシフトを克服する。
• 多様な医療画像処理タスクに広く一般化できるドメイン固有の事前学習モデルを開発する。
• 研究コミュニティが医療画像分類研究を加速できるように、新たなアクセスしやすいベースラインを提供する。
• 限られたアノテート済みデータセットを用いた微調整を通じて、MedNetの有効性を検証する。

提案手法

• X線、CT、MRI、超音波、PETを含むモダリティの300万枚の公開可能でグレースケールの医療画像を用いてGray-MedNetを学習する。
• 組織病理学や内 endoscopic 画像などの300万枚の公開可能でカラーの医療画像を用いてColor-MedNetを学習する。
• 両バリアントに標準的な畳み込みニューラルネットワークアーキテクチャ（例：ResNetに類似）を用い、それぞれの医療画像分布で事前学習する。
• 下流タスクの医療画像分類データセットに、事前学習済みのMedNetモデルを微調整することで転移学習を実施する。
• 標準的なトレーニングおよび評価プロトコル（交差検証、正確性やAUCなどの標準指標を含む）を採用する。
• ImageNet事前学習と同一のトレーニングパイプラインを用いるが、ImageNetの重みの代わりにMedNetの重みを用いることで、性能向上を評価する。

実験結果

リサーチクエスチョン

• RQ1 医療画像に特化して学習された事前学習モデルは、ImageNetベースの転移学習と比較して分類性能を向上させるか？
• RQ2 X線やCTのようなグレースケール医療画像にドメイン固有で事前学習することで、自然画像で一般的に事前学習するのと比較して、より良い一般化性能が得られるか？
• RQ3 組織病理学などのカラー医療画像に事前学習することで、下流分類タスクの精度がどの程度向上するか？
• RQ4 MedNetは、多様な医療画像分類タスクに耐性があり、汎用的なベースラインとして機能できるか？
• RQ5 限られた医療データセットで微調整された場合、MedNetの性能は、既存の転移学習ベースラインと比較してどうなるか？

主な発見

• ドメイン固有の特徴学習により、MedNetはImageNetベースの転移学習を上回り、下流タスクにおける医療画像分類性能を顕著に向上させる。
• Gray-MedNetは、特にX線およびCT分類において、ImageNet重みを上回る高い正確性を達成する。
• Color-MedNetは、組織病理学およびその他のカラー医療画像分類タスクにおいて優れた性能を示し、ドメイン固有の利点を示している。
• わずかに少数のラベル付きサンプルでのMedNetの微調整により、ベンチマークデータセットで最先端の結果が得られ、大規模なアノテート済みデータセットへの依存が減少する。
• 特にデータが少ない状況においても、将来的な医療画像解析研究の信頼性の高い一般化可能なベースラインを提供する。
• アブレーションスタディにより、自然画像ではなく医療データで事前学習することで、収束が速くなり、一般化性能が向上することが確認された。