[論文レビュー] Self-Supervised Learning for Segmentation

Abhinav Dhere, Jayanthi Sivaswamy|arXiv (Cornell University)|Jan 14, 2021

Domain Adaptation and Few-Shot Learning参考文献 15被引用数 7

ひとこと要約

本論文は、腹部CTスキャンにおける腎臓セグメンテーションのための自己教師付きプロキシタスクを提案する。アノテーションを追加せず、解剖学的非対称性を活用して、シアンプルス型畳み込みニューラルネットワーク（CNN）を用いて左右の腎臓領域を分類する。このタスクで事前学習することで、追加のアノテーションがなくても、スクラッチから学習する場合に比べて収束が速く、セグメンテーション性能が向上（Diceスコア0.931 vs. 0.907）し、データオーグメンテーションを用いない1/5の学習エポック数（1000エポックではなく200エポック）でも同様の性能を達成した。

ABSTRACT

Self-supervised learning is emerging as an effective substitute for transfer learning from large datasets. In this work, we use kidney segmentation to explore this idea. The anatomical asymmetry of kidneys is leveraged to define an effective proxy task for kidney segmentation via self-supervised learning. A siamese convolutional neural network (CNN) is used to classify a given pair of kidney sections from CT volumes as being kidneys of the same or different sides. This knowledge is then transferred for the segmentation of kidneys using another deep CNN using one branch of the siamese CNN as the encoder for the segmentation network. Evaluation results on a publicly available dataset containing computed tomography (CT) scans of the abdominal region shows that a boost in performance and fast convergence can be had relative to a network trained conventionally from scratch. This is notable given that no additional data/expensive annotations or augmentation were used in training.

研究の動機と目的

• 腎臓セグメンテーションにおけるアノテート済み医療画像データの不足という課題に対処すること。
• 転移学習の代替として自己教師付き学習を医療画像セグメンテーションに応用することの可能性を検討すること。
• 内在する解剖学的非対称性を活用して、効果的な事前学習に適したプロキシタスクを設計すること。
• 自己教師付き学習が、追加のアノテーションやデータオーグメンテーションなしに、セグメンテーション性能と収束速度を向上させるかどうかを評価すること。

提案手法

• 空間的にクロップされた64×112×112のパッチをCTボリュームから抽出し、そのペアが同じ側（左または右）の腎臓領域に属するか否かを分類するように、シアンプルス型畳み込みニューラルネットワーク（CNN）を学習する。
• プロキシタスクは解剖学的非対称性（左右の腎臓のサイズ、形状、位置の違い）を活用しており、ネットワークが空間的位置に依存せず、構造的意味を学習するように強制する。
• 同じ側のペアの埋め込み間のL2距離を最小化し、逆側のペアでは最大化するため、マージン1を用いたコントラスト型損失が使用される。
• 事前学習後、シアンプルス型ネットワークの一方のブランチをセグメンテーションネットワークのエンコーダとして使用し、デコーダはランダムに初期化される。
• セグメンテーションネットワークは、ソフトDice損失（0.4）とバイナリクロスエントロピー損失（0.6）の重み付き組み合わせを用いて学習される。
• 本手法は、データオーグメンテーションを一切使用せず、入力ボリュームは16の倍数に最も近い値にゼロパディングされる。

実験結果

リサーチクエスチョン

• RQ1 解剖学的非対称性に基づく自己教師付きプロキシタスクは、腹部CTスキャンにおける腎臓セグメンテーション性能を向上させることができるか？
• RQ2 自己教師付き事前学習は、スクラッチからの学習に比べて収束が速くなるか？
• RQ3 追加のアノテート済みデータやデータオーグメンテーションを使用せずに、自己教師付き学習がより高い性能を達成できるか？
• RQ4 コントラスト型損失を用いたシアンプルス型ネットワークは、セグメンテーションのための区別可能な腎臓表現を学習するのにどの程度効果的か？

主な発見

• 自己教師付き学習を用いたモデル（MwS）は、スクラッチから学習したモデル（MwoS）と比較して、検証用Diceスコアが0.931（MwoSは0.907）に上昇し、顕著な性能向上が確認された。
• MwSモデルは収束が早く、エポックごとの進捗曲線から、学習初期段階でより高いDiceスコアを達成した。
• テストセット（90例のアノテート済みでないケース）では、MwSが0.880のDiceスコアを達成したのに対し、MwoSは0.853であった。これは一貫した性能向上を示している。
• ハウスドルフ距離（HD）は、MwoSの0.303からMwSの0.291に低下し、境界の一致度が向上したことを示している。
• 境界長さ差分（BL）は、MwoSの14.0％からMwSの12.9％に減少し、より正確なセグメンテーション境界を示している。
• 1/5の学習エポック数（200 vs. 1000）かつデータオーグメンテーションなしでも、MwSは6倍のデータオーグメンテーションと1000エポックを用いた最先端手法を上回った。