[論文レビュー] Translation Consistent Semi-supervised Segmentation for 3D Medical Images

Yuyuan Liu, Yu Tian+5 more|arXiv (Cornell University)|Mar 28, 2022

Advanced Neural Network Applications被引用数 7

ひとこと要約

本論文では、ラベルなしデータの翻訳されたビュー間の整合性を強制することで、空間的コンテキストへの依存を軽減し、前景オブジェクトの一般化を向上させる、新しい半教師付き3D医療画像セグメンテーション手法TraCoCoを提案する。ラベルなしデータの翻訳ビュー間の整合性を保つことで、空間的コンテキストへの依存を軽減し、前景オブジェクトの一般化を向上させる。収束性に優れた訓練を可能にするためのConfident Regional Cross-Entropy (CRC)損失を導入し、3D CutMix拡張を拡張して、LA、膵臓、BRaTS19データセットで最小限のラベル付きデータで最先端の性能を達成した。

ABSTRACT

3D medical image segmentation methods have been successful, but their dependence on large amounts of voxel-level annotated data is a disadvantage that needs to be addressed given the high cost to obtain such annotation. Semi-supervised learning (SSL) solve this issue by training models with a large unlabelled and a small labelled dataset. The most successful SSL approaches are based on consistency learning that minimises the distance between model responses obtained from perturbed views of the unlabelled data. These perturbations usually keep the spatial input context between views fairly consistent, which may cause the model to learn segmentation patterns from the spatial input contexts instead of the segmented objects. In this paper, we introduce the Translation Consistent Co-training (TraCoCo) which is a consistency learning SSL method that perturbs the input data views by varying their spatial input context, allowing the model to learn segmentation patterns from visual objects. Furthermore, we propose the replacement of the commonly used mean squared error (MSE) semi-supervised loss by a new Cross-model confident Binary Cross entropy (CBC) loss, which improves training convergence and keeps the robustness to co-training pseudo-labelling mistakes. We also extend CutMix augmentation to 3D SSL to further improve generalisation. Our TraCoCo shows state-of-the-art results for the Left Atrium (LA) and Brain Tumor Segmentation (BRaTS19) datasets with different backbones. Our code is available at https://github.com/yyliu01/TraCoCo.

研究の動機と目的

• 既存の半教師付き学習（SSL）手法が、前景オブジェクト特徴ではなく空間的入力コンテキストに過度に依存しているという限界に対処すること。
• 空間的にずらされたビューを用いた共同学習フレームワークを導入することで、確認バイアスを軽減し、局所的最小値への収束を防ぐこと。
• 予測の信頼度が高い陽性および陰性予測に焦点を当てた新しい損失関数を導入することで、疑似ラベル誤りに対する収束性とロバストネスを向上させること。
• 半教師付き3Dセグメンテーションへの3D CutMix拡張の拡張により、一般化性能を向上させること。
• 限られたアノテーションデータで主要な3D医療画像セグメンテーションベンチマークで最先端の性能を達成すること。

提案手法

• TraCoCoは、同一のラベルなし3Dボリュームの空間的にずらされたビュー間で整合性を保つ共同学習戦略を採用しており、2つの独立に初期化されたモデルが学習される。
• 翻訳ビューの重複領域でのみセグメンテーションの整合性を計算することで、背景パターンへの依存を低減する。
• 学生モデルが予測する最も信頼度の高い予測（陽性および陰性）に焦点を当てることで、収束性とロバストネスを向上させる、新しいConfident Regional Cross-Entropy (CRC)損失を導入する。
• CRC損失は、高信頼度で予測された領域にのみ適用され、ノイズや誤った疑似ラベルの影響を最小限に抑える。
• 訓練中に異なるボリュームのパッチを混合することで、3D SSLに3D CutMix拡張を拡張し、一般化性能とデータ効率を向上させる。
• 分離された誤検出領域（入力ボリュームの1/1500未満）をフィルタリングするため、連結成分の後処理を適用し、さらにセグメンテーション精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ラベルなし3D医療画像の空間的にずらされたビュー間の整合性を強制することで、背景パターンへのモデル依存を軽減し、前景オブジェクトへの一般化を向上させることができるか？
• RQ2 高信頼度の疑似ラベルに焦点を当てる信頼度ベースの損失関数は、標準のMSEベースの損失関数と比較して、収束性とロバストネスを向上させるか？
• RQ3 限られたラベル付きデータで、3D CutMix拡張は半教師付き3D医療画像セグメンテーションにおける一般化性能を向上させることができるか？
• RQ4 提案されたTraCoCoフレームワークは、多様な3D医療画像認識タスクにおいて、最先端の手法と比較してセグメンテーション精度で優れているか？
• RQ5 連結成分フィルタリングのような後処理技術は、モデルの最終的セグメンテーション性能にどのような影響を与えるか？

主な発見

• TraCoCoは、左房（LA）、膵臓CT（Pancreas）、脳腫瘍セグメンテーション（BRaTS19）データセットにおいて、Dice、mIoU、95HDを含むすべての評価指標で最先端の性能を達成した。
• Confident Regional Cross-Entropy (CRC)損失は、MSE損失よりも前景および背景ボクセルの信頼度クラスタリングをよりきめ細やかにし、より高いセグメンテーション精度とより速い収束を実現した。
• 膵臓CTデータセットでは、CRC損失によりDiceスコアが1.5%向上し、mIoUが2.1%向上した。
• 入力ボリュームの1/1500未満のサイズの孤立した誤検出領域をフィルタリングする連結成分後処理により、誤検出が減少し、すべての指標が向上した。CRC損失と組み合わせた場合、最も優れた結果が得られた。
• 3D CutMix拡張の追加により、特にデータが少ない状況下で一般化性能が向上し、すべてのデータセットで一貫した性能向上が確認された。
• 平均して1ボリュームあたり1.386秒で実行され（後処理ありで1.412秒）、BraTS19では後処理に追加で0.098秒のオーバーヘッドしかかかっていないことから、実用的な効率性を示した。