[論文レビュー] Robust and Efficient Medical Imaging with Self-Supervision

Shekoofeh Azizi, Laura Culp+32 more|arXiv (Cornell University)|May 19, 2022

Radiomics and Machine Learning in Medical Imaging被引用数 31

ひとこと要約

REMEDISは、大規模な監督付き転移学習と自己教師あり学習を統合した表現学習戦略で、医用画像AIのロバスト性とデータ効率を向上させ、分布内の性能改善とデータ効率の良い一般化を達成します。

ABSTRACT

Recent progress in Medical Artificial Intelligence (AI) has delivered systems that can reach clinical expert level performance. However, such systems tend to demonstrate sub-optimal "out-of-distribution" performance when evaluated in clinical settings different from the training environment. A common mitigation strategy is to develop separate systems for each clinical setting using site-specific data [1]. However, this quickly becomes impractical as medical data is time-consuming to acquire and expensive to annotate [2]. Thus, the problem of "data-efficient generalization" presents an ongoing difficulty for Medical AI development. Although progress in representation learning shows promise, their benefits have not been rigorously studied, specifically for out-of-distribution settings. To meet these challenges, we present REMEDIS, a unified representation learning strategy to improve robustness and data-efficiency of medical imaging AI. REMEDIS uses a generic combination of large-scale supervised transfer learning with self-supervised learning and requires little task-specific customization. We study a diverse range of medical imaging tasks and simulate three realistic application scenarios using retrospective data. REMEDIS exhibits significantly improved in-distribution performance with up to 11.5% relative improvement in diagnostic accuracy over a strong supervised baseline. More importantly, our strategy leads to strong data-efficient generalization of medical imaging AI, matching strong supervised baselines using between 1% to 33% of retraining data across tasks. These results suggest that REMEDIS can significantly accelerate the life-cycle of medical imaging AI development thereby presenting an important step forward for medical imaging AI to deliver broad impact.

研究の動機と目的

• 医療画像AIを多様な臨床設定でデータ効率的な一般化が必要であることを動機づける。
• REMEDISを、ロバスト性とデータ効率を高める統一表現学習フレームワークとして提案する。
• REMEDISを多様な医用画像タスクと現実的な retrospective シナリオで評価する。
• 分布内性能と少数ショットデータシナリオの両方で、教師ありベースラインに対する改善を定量化する。

提案手法

• 大規模な監督付き転移学習と自己教師あり学習を統一フレームワークで組み合わせる。
• 自己教師あり目的を活用して、タスク特有のラベルを大量に必要とせず表現を学習する。
• REMEDISはタスク特異的なカスタマイズを最小限に抑えつつロバスト性を向上させることを示す。
• 複数の医用画像タスクを評価し、 retrospective データを用いた3つの現実的な適用シナリオをシミュレーションする。
• 診断精度とデータ効率的一般化の両方の改善を示す。

実験結果

リサーチクエスチョン

• RQ1 医療画像における分布シフトに対するロバスト性を統一表現学習戦略で改善できるか。
• RQ2 監督付き転移学習と自己教師あり学習の組み合わせは、医用画像タスクのデータ効率にどう影響するか。
• RQ3 REMEDISは限られた再トレーニングデータで強力な教師ありベースラインにどの程度匹敵できるか。
• RQ4 現実的なシナリオ下で、REMEDISは多様な医用画像モダリティとタスクに一般化できるか。

主な発見

• REMEDISは、分布内で強力な教師ありベースラインに対して診断精度を最大で11.5%相対的に改善する。
• この手法はデータ効率の高い一般化を強力に達成し、再訓練データの1%から33%のみでタスク間において強力な教師ありベースラインに匹敵する。
• REMEDISは多様な医用画像タスクとシミュレートされた臨床設定の中でロバスト性と効率を示す。
• このフレームワークはタスク特異的なカスタマイズが少なく、医用画像AIパイプラインのより広範で迅速な展開を可能にする。