[論文レビュー] Self-Supervised Learning for Spinal MRIs

Amir Jamaludin, Timor Kadir+1 more|arXiv (Cornell University)|Aug 1, 2017

Medical Imaging and Analysis参考文献 10被引用数 15

ひとこと要約

本稿では、縦断的スキャンペアを無料の自己教師付き信号として用い、同一患者と異なる患者のスキャンを対照的損失と椎間板レベル分類を用いて区別するように、シアンプル型CNNを訓練する自己教師付き事前学習手法を提案する。この手法は、完全にアノテートされたデータセットで事前学習されたモデルに近い性能を示し、スクリーニングから学習を開始するのと比較して、はるかに少ないアノテート済みサンプルで椎間板変性度の分類性能を向上させる。

ABSTRACT

A significant proportion of patients scanned in a clinical setting have follow-up scans. We show in this work that such longitudinal scans alone can be used as a form of 'free' self-supervision for training a deep network. We demonstrate this self-supervised learning for the case of T2-weighted sagittal lumbar Magnetic Resonance Images (MRIs). A Siamese convolutional neural network (CNN) is trained using two losses: (i) a contrastive loss on whether the scan is of the same person (i.e. longitudinal) or not, together with (ii) a classification loss on predicting the level of vertebral bodies. The performance of this pre-trained network is then assessed on a grading classification task. We experiment on a dataset of 1016 subjects, 423 possessing follow-up scans, with the end goal of learning the disc degeneration radiological gradings attached to the intervertebral discs. We show that the performance of the pre-trained CNN on the supervised classification task is (i) superior to that of a network trained from scratch; and (ii) requires far fewer annotated training samples to reach an equivalent performance to that of the network trained from scratch.

研究の動機と目的

• 縦断的MRスキャンが自由に入手可能なため、脊椎画像における深層ネットワークの自己教師付き事前学習に活用すること。
• 同一患者のスキャン関係性という内在的特徴を教師信号として用いることで、高価な専門家によるアノテーションデータへの依存を減らすこと。
• 自己教師付きモデルから抽出した特徴を転移することで、最小限のラベル付きデータで椎間板変性度分類の性能を向上させること。
• 椎間板体に対する自己教師付き学習が、椎間板間接の分類タスクに一般化できるかどうかを評価すること。
• 完全にアノテートされたデータセットからの転移学習やスクラッチからの学習と比較して、縦断的自己教師付き学習の有効性を検証すること。

提案手法

• 対照的損失を用いて、同一患者のスキャンは類似させ、異なる患者のスキャンは分離させるように、T2強調画像の矢状断層スライスペアを用いてシアンプル型CNNを訓練する。
• 椎間板体レベル（T12からS1）を予測する分類ヘッドを併用し、データ依存の自己教師付き信号を追加することで、ネットワークを共同で訓練する。
• 入力ボリュームは抽出・前処理される：椎間板体（224×224×9）と椎間板間（112×224×9）、強度正規化とゼロパディングを施す。
• 対照的損失は 𝒟 = Σ(y)d² + (1−y)max(0, m−d)² で定義され、dは2つの椎間板体の1024次元埋め込み間のL2距離、y=1は同一患者ペア、y=0は異なる患者ペアを表す。
• 事前学習後、畳み込み重みを新しい分類器ネットワークに転送し、全結合層のみを微調整して椎間板変性度分類に使用する。
• 性能は200名分のテストセット（放射線的分類付き）で評価され、事前学習モデルとスクラッチからの学習、ImageNet や完全にアノテートされたデータセットからの転移学習を比較する。

実験結果

リサーチクエスチョン

• RQ1 縦断的MRスキャンは、脊椎画像における深層ネットワークの事前学習のための無料の自己教師付き信号として利用可能か？
• RQ2 同一患者のスキャンペアを用いた事前学習は、椎間板変性度分類の下流タスク性能を向上させるか？
• RQ3 自己教師付き事前学習の性能は、スクラッチからの学習や完全にアノテートされたデータセットからの転移学習と比較してどうなるか？
• RQ4 椎間板体に対する自己教師付き学習は、椎間板間の分類タスクにどの程度一般化できるか？
• RQ5 自己教師付き事前学習は、同等の性能を得るために必要なアノテート済みトレーニングサンプル数を削減できるか？

主な発見

• 自己教師付き事前学習モデルは、たった667スキャンのみを用いて椎間板変性度分類で74.4％の精度を達成し、スクラッチからの学習（976スキャン）で得られた74.7％の精度と同等であった。
• 低データレジーム下での縦断的事前学習による性能向上は顕著であり、スクラッチからの学習と比較して、同等の性能に到達するためのアノテート済みサンプル数を著しく削減できた。
• 完全にアノテートされたデータセット（IVD分類を含む）で事前学習されたCNNからの転移学習は、スクラッチからの学習よりも少なくとも2.5％高い精度を示し、上限性能としての役割を果たした。
• シアンプル型ネットワークは椎間板体で学習されたが、転送された特徴は椎間板間分類タスクに効果的に一般化され、スクラッチからの学習を上回った。
• 自己教師付きモデルの性能は976スキャンで頭打ちではなく、さらにデータを増やすことでさらなる向上が期待できるため、本手法はデータ効率的でスケーラブルであると考えられる。
• 本手法は、臨床データのDICOMメタデータに通常含まれる縦断的スキャン情報を活用することで、無料でスケーラブルな事前学習戦略を提供する。