[論文レビュー] Semi-Supervised Brain Lesion Segmentation with an Adapted Mean Teacher Model

Wenhui Cui, Yi Liu+7 more|arXiv (Cornell University)|Mar 4, 2019

Brain Tumor Detection and Classification参考文献 16被引用数 11

ひとこと要約

本稿では、アノテート済みおよびアノテートされていないMRIデータを活用するように適応されたMean Teacherモデルを用いた半教師付き脳病変セグメンテーション手法を提案する。同じ未アノテートスキャンのノイズの多い増幅処理の間でセグメンテーションの一貫性を強制し、指数移動平均を用いた学生・教師モデルの更新により自己アンサンブル戦略を採用することで、最先端の性能を達成し、既存のSSL手法を上回り、10枚のアノテート済みスキャンしか使用しない状況ですら完全教師ありベースラインをも上回る。

ABSTRACT

Automated brain lesion segmentation provides valuable information for the analysis and intervention of patients. In particular, methods based on convolutional neural networks (CNNs) have achieved state-of-the-art segmentation performance. However, CNNs usually require a decent amount of annotated data, which may be costly and time-consuming to obtain. Since unannotated data is generally abundant, it is desirable to use unannotated data to improve the segmentation performance for CNNs when limited annotated data is available. In this work, we propose a semi-supervised learning (SSL) approach to brain lesion segmentation, where unannotated data is incorporated into the training of CNNs. We adapt the mean teacher model, which is originally developed for SSL-based image classification, for brain lesion segmentation. Assuming that the network should produce consistent outputs for similar inputs, a loss of segmentation consistency is designed and integrated into a self-ensembling framework. Specifically, we build a student model and a teacher model, which share the same CNN architecture for segmentation. The student and teacher models are updated alternately. At each step, the student model learns from the teacher model by minimizing the weighted sum of the segmentation loss computed from annotated data and the segmentation consistency loss between the teacher and student models computed from unannotated data. Then, the teacher model is updated by combining the updated student model with the historical information of teacher models using an exponential moving average strategy. For demonstration, the proposed approach was evaluated on ischemic stroke lesion segmentation, where it improves stroke lesion segmentation with the incorporation of unannotated data.

研究の動機と目的

• 医療画像セグメンテーションにおけるアノテート済み脳MRIデータの高コストおよび希少性に対処すること。
• 限られたアノテート済みデータが利用可能な状況でのセグメンテーション性能を向上させること。
• 元々画像分類を目的として開発されたMean Teacherフレームワークを、半教師付き脳病変セグメンテーションに適応すること。
• 一貫性正則化と自己アンサンブル戦略を用いて未アノテートデータを活用し、モデルのロバスト性と一般化性能を向上させること。
• 臨床的MRIデータを用いた虚血性ストローク病変セグメンテーションにおいて、本手法の有効性を示すこと。

提案手法

• セグメンテーションを目的としたDeepMedic CNNアーキテクチャに基づく学生・教師モデルのアーキテクチャを採用する。
• 学生モデルは、(1)アノテート済みデータにおける交差エントロピー損失と、(2)未アノテートデータにおけるDiceベースの一貫性損失の重み付き和を最小化するように訓練される。
• 未アノテートサンプルはガウスノイズを用いて増幅され、同じスキャンの2つの類似した入力を生成し、モデルはそれらの間で予測の一貫性を強制する。
• 教師モデルは学生モデルの重みの指数移動平均（EMA）を用いて更新され、履歴情報を保持する。
• 学生モデルと教師モデルは交互に訓練され、教師モデルが学生モデルの安定したターゲットを提供する。
• 最終的なセグメンテーションは、複数の訓練ステップにおける知識を集約する訓練済みの教師モデルを用いて実行される。

実験結果

リサーチクエスチョン

• RQ1 Mean Teacherフレームワークは、MRIにおける半教師付き脳病変セグメンテーションに効果的に適応可能か？
• RQ2 未アノテートデータのノイズの多い増幅処理に対する予測の一貫性を強制することで、セグメンテーション性能は向上するか？
• RQ3 学生・教師の更新ダイナミクスによる自己アンサンブル戦略は、標準的なSSL手法と比較してモデルの一般化性能を向上させるか？
• RQ4 アノテート済みスキャンが少量しかない状況での本手法の性能はいかがなものか？
• RQ5 データが限られた状況下で、本手法は完全教師ありベースラインおよび既存のSSL手法を上回るか？

主な発見

• 本手法はテストセットで平均Diceスコア0.6518 ± 0.2484を達成し、20枚のアノテート済みスキャンで訓練されたベースラインのDeepMedicモデルを顕著に上回った。
• アノテート済みスキャンが10枚しかない状況でも、本手法は30枚のアノテート済みスキャンで訓練されたベースラインモデルと同等のDiceスコアを達成した。
• すべてのデータ設定において、競合するSSL手法（DeepMedic-ENおよびDeepMedic-UDA）を上回り、特に訓練データが限られた状況で顕著な優位性を示した。
• 同じ未アノテートスキャンのノイズの多い増幅処理間のDice係数に基づく一貫性損失が、効果的な正則化を提供した。
• EMAベースの教師更新戦略により、訓練が安定化し、特にデータが少ない状況でのモデルのロバスト性が向上した。
• 本手法は優れた一般化性能を示し、未アノテートデータを統合したことで、最小限のアノテート例でもDiceスコアが顕著に向上した。