[論文レビュー] Surrogate Supervision for Medical Image Analysis: Effective Deep Learning From Limited Quantities of Labeled Data

Nima Tajbakhsh, Yufei Hu+7 more|arXiv (Cornell University)|Jan 25, 2019

Radiomics and Machine Learning in Medical Imaging参考文献 17被引用数 12

ひとこと要約

本論文は、回転、再構成、または色付けを介して人工ラベルを割り当てることで、豊富なラベルなしデータを用いて深層ニューラルネットワークを事前学習するための代替監視手法を提案する。ラベル付きデータが少ない場合、特に3D医療画像解析において、代替監視による事前学習がランダム初期化や自然画像からの転移学習を上回る性能を示す。

ABSTRACT

We investigate the effectiveness of a simple solution to the common problem of deep learning in medical image analysis with limited quantities of labeled training data. The underlying idea is to assign artificial labels to abundantly available unlabeled medical images and, through a process known as surrogate supervision, pre-train a deep neural network model for the target medical image analysis task lacking sufficient labeled training data. In particular, we employ 3 surrogate supervision schemes, namely rotation, reconstruction, and colorization, in 4 different medical imaging applications representing classification and segmentation for both 2D and 3D medical images. 3 key findings emerge from our research: 1) pre-training with surrogate supervision is effective for small training sets; 2) deep models trained from initial weights pre-trained through surrogate supervision outperform the same models when trained from scratch, suggesting that pre-training with surrogate supervision should be considered prior to training any deep 3D models; 3) pre-training models in the medical domain with surrogate supervision is more effective than transfer learning from an unrelated domain (e.g., natural images), indicating the practical value of abundant unlabeled medical image data.

研究の動機と目的

• 3D画像解析において転移学習が効果を示さない状況を踏まえ、ラベル付きデータが限られている医療画像解析の課題に対処すること。
• 自然画像からの転移学習やランダム初期化と比較して、医療分野における代替監視による事前学習がモデル性能を向上させるかどうかを調査すること。
• 分類およびセグメンテーションを含む、2Dおよび3Dモodalの多様な医療画像解析タスクにおける代替監視の有効性を評価すること。
• ラベル付きデータが少ない状況において、代替監視が転移学習よりも優れた重み初期化を提供するかどうかを特定すること。

提案手法

• ラベルなし医療画像から生成された人工ラベルを用いて、深層ニューラルネットワークを事前学習する。代替監視の3つのスキーム（回転予測、画像再構成、色付け）を採用する。
• ラベルなし画像に代替ラベルを割り当てる——例：回転角度の予測、劣化させたバージョンからの元の画像の再構成、グレースケール入力からの色の予測。
• ラベル付きデータの一部（10%、25%、50%、100%）のみを用いて、代替監視による事前学習で得た重みで初期化したモデルを、ターゲット医療画像タスクで訓練する。
• ランダム初期化で訓練したモデルおよびImageNetで事前学習した重みを微調整したモデルと性能を比較する。
• 標準的な評価指標を用いる：結節検出にはFROC、セグメンテーションにはDiceスコア、分類にはKappa統計。
• 訓練・検証・テストのセットが重複しないようにデータ分割を行う。代替監視のための事前学習ではラベル付きデータとラベルなしデータを統合するが、ラベルなしデータからはターゲットタスクのラベルを削除する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きデータが限られている状況において、代替監視が医療画像解析における深層学習性能を向上させるか？
• RQ2 自然画像からの転移学習と比較して、医療分野における代替監視による事前学習がより効果的か？
• RQ3 ラベル付き学習データのサイズが増加するにつれて、代替監視がモデル性能に与える影響はいかなるものか？
• RQ4 代替監視が、3D医療画像解析において、訓練から再び開始する代替手段として実用的か？

主な発見

• 代替監視による事前学習は、特にラベル付きデータが10%または25%のとき、ランダム初期化で訓練する場合と比較して、一貫してモデル性能を向上させる。
• 肺葉セグメンテーションなどの3D医療画像解析タスクでは、代替監視が訓練から再び開始する場合を著しく上回る。これは、3Dアーキテクチャが一般的に訓練から再び開始される傾向にある中で、代替監視の価値を示している。
• 自然画像とは大きく異なるドメイン（例：Fundus画像やCT画像）を含むタスクでは、代替監視による事前学習がImageNetからの転移学習よりも効果的である。
• ラベル付き学習データのサイズが増加するにつれて、代替監視による性能向上の効果は薄れる。これは、代替監視が主に小規模データの状況で最も有効であることを示唆している。
• ドメインが自然画像に近い皮膚セグメンテーションタスクでは、ImageNetからの転移学習が代替監視を上回るが、代替監視による事前学習は依然としてランダム初期化を上回る。
• 結果から、代替監視は、ランダム重みや関連のないドメインでの事前学習よりも、特に小規模データ環境下でより効果的な重み初期化を提供することが示された。