[論文レビュー] A Review of Predictive and Contrastive Self-supervised Learning for Medical Images

Wei-Chien Wang, Euijoon Ahn+2 more|arXiv (Cornell University)|Feb 10, 2023

AI in cancer detection参考文献 220被引用数 4

ひとこと要約

本論文は、医療画像解析における予測型および対照型自己教師あり学習（SSL）手法をレビューし、対照型SSLが自然画像から医療画像分野へどのように適応されるかに焦点を当てる。最先端のアルゴリズムを評価し、限られたアノテーション付きデータでの教師あり学習に対する性能向上を強調するとともに、臨床応用における主な課題と今後の方向性を特定する。

ABSTRACT

Over the last decade, supervised deep learning on manually annotated big data has been progressing significantly on computer vision tasks. But the application of deep learning in medical image analysis was limited by the scarcity of high-quality annotated medical imaging data. An emerging solution is self-supervised learning (SSL), among which contrastive SSL is the most successful approach to rivalling or outperforming supervised learning. This review investigates several state-of-the-art contrastive SSL algorithms originally on natural images as well as their adaptations for medical images, and concludes by discussing recent advances, current limitations, and future directions in applying contrastive SSL in the medical domain.

研究の動機と目的

• 対照型自己教師あり学習（SSL）手法が自然画像から医療画像分野へどのように適応されるかを分析すること。
• 限られたアノテーション付きデータを用いた医療画像タスクにおける最先端の対照型SSLモデルの性能を評価すること。
• 実臨床の医療画像シナリオへのSSLの適用における主な制限要因と課題を特定すること。
• 放射線科および病理学分野におけるSSLの汎用性、耐性、臨床的実用性を向上させるための今後の研究方向性を検討すること。
• 表現の質および下流タスク性能の観点から、予測型と対照型SSLアプローチを比較すること。

提案手法

• 自然画像向けに開発された、SimCLR、MoCo、BYOL、BYOL-2などの最近の対照型SSLフレームワークを体系的に調査する。
• 解剖学的およびモodal特異的特性を尊重するようにデータ拡張戦略を変更することで、これらの対照型SSL手法を医療画像に適応させる。
• インスタンス識別と対照型損失関数を用いて、ペairedでないまたは弱くラベル付けされた医療スキャンから不変表現を学習する。
• 公的医療データセットを用いて、下流の分類、セグメンテーション、検出タスクで学習された表現を評価する。
• 特徴品質の向上を目的として、ドメイン固有の変更、例えばマルチコントラスト拡張や空間的一致性正則化を導入する。
• 複数の画像モodal（例：MRI、CT、X線）において、教師あり事前学習および他の自己教師ありベースラインと比較して性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 限られたアノテーション付きデータがある状況で、対照型SSL手法は医療画像ベンチマークにおいて教師あり事前学習と比較してどの程度の性能を示すか？
• RQ2 自然画像で訓練された対照型SSLモデルを医療画像分野へ適応させるために必要な修正は何か？
• RQ3 異なるデータ拡張戦略が、医療画像における自己教師あり表現の質にどのように影響を与えるか？
• RQ4 ドメインシフトやモダリティのばらつきといった、臨床現場における現在の対照型SSLアプローチの主な制限要因は何か？
• RQ5 自己教師あり学習の耐性および臨床的適用可能性を向上させるための今後の研究方向性は何か？

主な発見

• 限られたアノテーション付きデータがある状況で、対照型SSL手法は医療画像ベンチマークにおいて教師あり事前学習と同等またはそれ以上の性能を達成する。
• モダリティに配慮したデータ拡張や空間的一致性の向上といった適応策により、標準的な対照型手法に比べて医療画像における表現学習が向上する。
• 大規模なラベルなし医療データで事前学習された自己教師ありモデルは、腫瘍検出や臓器セグメンテーションなどの下流タスクに良好に一般化する。
• ラベルなしデータのスケールが大きくなるに従い、教師あり学習と自己教師あり学習の性能差は顕著に縮小する。
• 強力な結果が得られているものの、現在の対照型SSL手法はスキャナーやプロトコル、患者集団におけるドメインシフトに対処するのに依然として困難を抱えている。
• 予測型SSL手法は有望ではあるが、評価された大多数の医療画像タスクにおいて対照型アプローチに劣っている。