[論文レビュー] Self-Paced Contrastive Learning for Semi-supervised Medical Image Segmentation with Meta-labels

Jizong Peng, Ping Wang+2 more|arXiv (Cornell University)|Jul 29, 2021

Domain Adaptation and Few-Shot Learning被引用数 29

ひとこと要約

本論文は、医用画像のメタラベルを用いてエンコーダを事前学習させ、半教師なしセグメンテーションを正則化する自己ペースト対照学習フレームワークを提案し、ラベル付きスキャンが非常に少ない場合でも性能を向上させる。

ABSTRACT

Pre-training a recognition model with contrastive learning on a large dataset of unlabeled data has shown great potential to boost the performance of a downstream task, e.g., image classification. However, in domains such as medical imaging, collecting unlabeled data can be challenging and expensive. In this work, we propose to adapt contrastive learning to work with meta-label annotations, for improving the model's performance in medical image segmentation even when no additional unlabeled data is available. Meta-labels such as the location of a 2D slice in a 3D MRI scan or the type of device used, often come for free during the acquisition process. We use the meta-labels for pre-training the image encoder as well as to regularize a semi-supervised training, in which a reduced set of annotated data is used for training. Finally, to fully exploit the weak annotations, a self-paced learning approach is used to help the learning and discriminate useful labels from noise. Results on three different medical image segmentation datasets show that our approach: i) highly boosts the performance of a model trained on a few scans, ii) outperforms previous contrastive and semi-supervised approaches, and iii) reaches close to the performance of a model trained on the full data.

研究の動機と目的

• ラベル付きデータが不足し、ラベルなしデータが限られているまたは利用できない場合に、医用画像分割の改善を促進する。
• 自由に入手できるメタラベル（例：スライス位置、患者ID、心臓相）を活用して表現学習を改善する。
• ノイズのあるメタラベルを扱い、エンコーダ表現とラベル主導の重みを共同最適化する自己ペースト対照損失を提案する。
• メタラベル事前学習を半教師あり学習とMean Teacherと組み合わせることで、セグメンテーション精度がさらに向上することを示す。
• 提案手法が複数の医用画像データセットで既存の対照学習および半教師あり手法を上回ることを示す。

提案手法

• 同じメタラベルを持つデータ増強サンプルや同じ元画像からのサンプルをグルーピングして弱い監視としてメタラベルを用いる対照損失を定義する。
• ラベルノイズを緩和するために正例対に適応的重みを割り当て、難しいサンプルを段階的に取り入れる自己ペース正則化器を導入する。
• HardおよびLinear SPL正則化子の下で重み付き正例の閉形式解を提供し、重み更新を導く。
• 複数のメタラベル対照損失を重み付きで1つの目的関数に統合し、監督付きおよび正則化損失（Mean Teacher）を追加することで半教師ありセグメンテーションへ拡張し、SP Con損失を正則化として用いる。
• 対照埋め込みのための投影ヘッドを備えたエンコーダ-デコーダ（U-Net）を使用する。エンコーダを事前学習し、次に半教師あり設定で限られたラベルデータでファインチューニングを行う。
• 自己ペースのペース γ をエポックごとにスケジュールして高信頼と低信頼ペアの包含をバランスさせる。

実験結果

リサーチクエスチョン

• RQ1 医用画像のメタラベルを、少数のラベルでセグメンテーションを改善する自己ペースト対照フレームワークで効果的に利用できるか？
• RQ2 対照正例ペアの自己ペースウェイティングは、弱いメタラベルのノイズを緩和し、下流のセグメンテーションの表現を改善するか？
• RQ3 事前学習で複数のメタラベルを組み合わせることが最終的なセグメンテーション性能に及ぼす影響は何か？
• RQ4 半教師あり訓練（Mean Teacher など）における正則化として対照的メタラベル学習を組み込むと、完全監視レベルに近づく性能を向上させるか？

主な発見

• メタラベルを用いた自己ペースト対照学習は、限られたラベルでのベースライン監視付き訓練よりセグメンテーション性能を向上させる。
• メタラベル対照損失による事前学習は、データセット全体で無監督対照 pre-training を上回る。
• 複数のメタラベルを組み合わせる方が、単一のメタラベルを用いるより良い結果を得る。
• SP-Con loss を事前学習および半教師あり正則化の双方として取り入れ、オプションで Mean Teacher を併用することで、非常に少数のアノテーションスキャンにもかかわらず、完全監視訓練に近い性能をもたらす。
• 線形自己ペース正則化は、一般にハード正則化より強い改善をもたらす。
• 3つのデータセットにわたり、提案手法は低ラベル域で従来の対照学習および半教師あり手法を上回る。