[論文レビュー] Self-Loop Uncertainty: A Novel Pseudo-Label for Semi-Supervised Medical Image Segmentation

Yuexiang Li, Jiawei Chen+3 more|arXiv (Cornell University)|Jul 20, 2020

Advanced Neural Network Applications参考文献 19被引用数 11

ひとこと要約

本論文は、再帰的自己教師学習最適化（例：ジャイガープズル）を活用して、最小限の計算コストで信頼性の高い不確実性推定を生成する、半教師あり医療画像セグメンテーションのための新規擬似ラベル「セルフループ不確実性」を提案する。異なる訓練イテレーションにおけるネットワーク状態をアンサンブルモデルとして扱うことで、推論時間を短縮しつつアンサンブルベースの不確実性を近似し、わずか20%のラベル付きデータでの状態を達成する。

ABSTRACT

Witnessing the success of deep learning neural networks in natural image processing, an increasing number of studies have been proposed to develop deep-learning-based frameworks for medical image segmentation. However, since the pixel-wise annotation of medical images is laborious and expensive, the amount of annotated data is usually deficient to well-train a neural network. In this paper, we propose a semi-supervised approach to train neural networks with limited labeled data and a large quantity of unlabeled images for medical image segmentation. A novel pseudo-label (namely self-loop uncertainty), generated by recurrently optimizing the neural network with a self-supervised task, is adopted as the ground-truth for the unlabeled images to augment the training set and boost the segmentation accuracy. The proposed self-loop uncertainty can be seen as an approximation of the uncertainty estimation yielded by ensembling multiple models with a significant reduction of inference time. Experimental results on two publicly available datasets demonstrate the effectiveness of our semi-supervied approach.

研究の動機と目的

• ディープラーニングベースのセグメンテーションにおいて、ピクセル単位のアノテーションが高コストかつ時間がかかるという、限られたラベル付き医療画像の課題に対処すること。
• 半教師あり学習における擬似ラベル化のための計算コストの高いアンサンブルベースの不確実性推定の効率的代替策を開発すること。
• 単一のネットワークの再帰的最適化によるアンサンブル不確実性の近似により、推論時間を短縮しながらも、セグメンテーション精度を維持または向上させること。
• 新規の擬似ラベル戦略を用いて、ラベル付きデータのわずかな割合での高精度なセグメンテーションを可能にすること。

提案手法

• 自己教師学習タスク（例：ジャイガープズル）を用いて、完全畳み込みネットワーク（FCN）のエンコーダーを再帰的に最適化することで、セルフループ不確実性を生成する。
• 各画像に対してQ個の順列を生成し、Q個のセグメンテーション予測を出力する；セルフループ不確実性は、これらの予測の分散または不一致度として計算される。
• ラベル付きおよびラベルなしデータの両方で同時に学習するため、セグメンテーション損失（L_SEG）、不確実性誘導損失（L_UG）、自己教師学習損失（L_SS）を組み合わせたマルチタスク損失フレームワークを採用する。
• L_SSは、ラベルなしデータからの特徴学習を促進し、表現品質を向上させ、擬似ラベルの信頼性を高める。
• セルフループ不確実性は、ラベルなし画像の擬似ラベルとして機能し、訓練セットを効果的に拡張し、セグメンテーション性能を向上させる。
• 真のアンサンブルのように複数の順方向パスを必要としないように、同じネットワークを最適化ステップ間で再利用することで、推論コストを著しく削減する。

実験結果

リサーチクエスチョン

• RQ1 単一ネットワークの再帰的自己教師学習最適化が、著しく低い計算コストでアンサンブルベースの不確実性推定の信頼性を近似できるか？
• RQ2 低監視設定下でのセグメンテーション精度において、セルフループ不確実性はソフトマックス確率マップやMCドロップアウトといった既存の擬似ラベルと比較してどのように異なるか？
• RQ3 自己教師学習を統合することで、擬似ラベルの品質および下流のセグメンテーション性能がどの程度向上するか？
• RQ4 パフォーマンスと計算効率のバランスを考慮した場合、セルフループ不確実性を生成するための最適な順列数（Q）は何か？

主な発見

• 提案手法のセルフループ不確実性は、20%のラベル付きデータでのみ、MoNuSegデータセットで77.11%のF1スコアを達成し、完全教師ありベースライン（71.51%）を5.6ポイント上回った。
• ISICデータセットでは、20%のラベル付きデータで84.92%のF1スコア、50%で86.17%を達成し、100%アノテーションの完全教師ありモデルと同等の性能を示した。
• 推論コストを1画像あたり1回の順方向パスにまで削減した一方で、同等またはより高い精度を維持した。これは、アンサンブル手法が10倍の推論を要するのと対照的である。
• アブレーションスタディの結果、順列数（Q）を増やすことで性能が向上するが、Q=6を超えると利得が微増にとどまり、Q=6～10が実用的な妥協点であると示された。
• 自己教師学習損失（L_SS）を除去すると性能が著しく低下し、自己教師学習が高品質な不確実性推定を生成するために不可欠であることが確認された。
• 本フレームワークは、MoNuSegおよびISICデータセットの両方で、最先端の性能を達成し、異なる医療画像処理タスクへの強い汎化能力を示した。