[論文レビュー] SimCVD: Simple Contrastive Voxel-Wise Representation Distillation for Semi-Supervised Medical Image Segmentation

Chenyu You, Yuan Zhou+3 more|arXiv (Cornell University)|Aug 13, 2021

Advanced Neural Network Applications被引用数 16

ひとこと要約

SimCVDは、2つのドロップアウトマスクのみを用いた最小限のデータオーグメンテーションで、対照的ボクセルワイズ表現蒸留を用いて半教師付き3次元医療画像分類を実現するシンプルなフレームワークを提案する。境界に敏感な表現を対照学習により学習する。SOTA性能を達成し、LAデータセットでラベル付きデータが20%の状況で90.85%のDiceスコアを達成し、10%の状況で89.03%を達成。先行手法を最大2.22%上回る。

ABSTRACT

Automated segmentation in medical image analysis is a challenging task that requires a large amount of manually labeled data. However, most existing learning-based approaches usually suffer from limited manually annotated medical data, which poses a major practical problem for accurate and robust medical image segmentation. In addition, most existing semi-supervised approaches are usually not robust compared with the supervised counterparts, and also lack explicit modeling of geometric structure and semantic information, both of which limit the segmentation accuracy. In this work, we present SimCVD, a simple contrastive distillation framework that significantly advances state-of-the-art voxel-wise representation learning. We first describe an unsupervised training strategy, which takes two views of an input volume and predicts their signed distance maps of object boundaries in a contrastive objective, with only two independent dropout as mask. This simple approach works surprisingly well, performing on the same level as previous fully supervised methods with much less labeled data. We hypothesize that dropout can be viewed as a minimal form of data augmentation and makes the network robust to representation collapse. Then, we propose to perform structural distillation by distilling pair-wise similarities. We evaluate SimCVD on two popular datasets: the Left Atrial Segmentation Challenge (LA) and the NIH pancreas CT dataset. The results on the LA dataset demonstrate that, in two types of labeled ratios (i.e., 20% and 10%), SimCVD achieves an average Dice score of 90.85% and 89.03% respectively, a 0.91% and 2.22% improvement compared to previous best results. Our method can be trained in an end-to-end fashion, showing the promise of utilizing SimCVD as a general framework for downstream tasks, such as medical image synthesis, enhancement, and registration.

研究の動機と目的

• 深層学習ベースの分類において、注釈付き医療画像が限られているという課題に対処する。
• 完全教師あり手法と比較して、半教師ありモデルのロバスト性と精度を向上させる。
• 幾何的構造と意味的情報を明示的にモデル化し、境界検出を強化する。
• 限られたラベルと豊富なラベルなしデータから強力なボクセルワイズ表現を学習するシンプルで効果的なフレームワークを開発する。
• 合成、強化、登録などの医療画像処理タスクにおけるエンドツーエンド学習を可能にする。

提案手法

• 2つの独立したドロップアウトマスクを用いて同一3次元ボリュームの2つのビューを生成し、対照学習用のポジティブペアとする。
• 学生ネットワークを、セグメンテーションマップとオブジェクト境界の符号付き距離マップ（SDM）の両方を予測するように訓練する。
• 2つのビューの潜在表現に対して対照損失を適用し、境界に敏感な特徴の一致を促進する。
• 教師ネットワークから学生ネットワークへ、ペアワイズ類似度パターンを転送する構造的蒸留を実装する。
• 平均教師法のパラダイムに従い、学生ネットワークの重みの指数移動平均を用いて教師ネットワークの重みを更新する。
• 学生ネットワークを、教師あり損失（セグメンテーションおよびSDM）と教師なし損失（対照損失、ペアワイズ蒸留、一貫性）の組み合わせで最適化する。

実験結果

リサーチクエスチョン

• RQ1 ドロップアウトのみという最小限のデータオーグメンテーション戦略が、医療画像分類のための対照的ボクセルワイズ表現学習で競争力のある性能を達成できるか？
• RQ2 インpainting や強度変換などの標準的なデータオーグメンテーション技術と比較して、ドロップアウトは表現品質および一般化性能においてどのように差をつけるか？
• RQ3 符号付き距離マップを通じた境界に敏感な表現の学習が、低ショット設定における分類精度をどの程度向上させるか？
• RQ4 ボクセル表現間のペアワイズ類似度の構造的蒸留は、モデル性能をさらに向上させるか？
• RQ5 提案されたSimCVDフレームワークは、さまざまな医療画像処理タスクおよびデータセットに一般化できるか？

主な発見

• ラベル付きデータが20%の状況で、SimCVDはLAデータセットで90.85%のDiceスコアを達成し、前回のSOTAを0.91%上回った。
• ラベル付きデータが10%の状況で、SimCVDは89.03%のDiceスコアを達成し、前回の最良手法を2.22%上回った。
• トレーニング中にドロップアウトを除去すると、Diceスコアが1.34%著しく低下し、ドロップアウトが表現学習において重要な役割を果たしていることが示された。
• 標準的なデータオーグメンテーション技術（例：インパント、非線形変換）を追加すると、ドロップアウトのみを使用した場合と比較して性能が低下した。これは、それらが有害なノイズを導入している可能性を示唆している。
• プーリングサイズが128の適応的平均プーリングが最適な性能を発揮したが、より大きなサイズ（例：256）では結果に改善が見られなかった。
• アブレーションスタディにより、ドロップアウトが代表的な最小限のデータオーグメンテーションとして効果的であり、異なるポジティブペアを生成し、表現の崩壊を防ぐ役割を果たしていることが確認された。