[論文レビュー] Advancing human-centric AI for robust X-ray analysis through holistic self-supervised learning

Théo Moutakanni, Piotr Bojanowski+8 more|arXiv (Cornell University)|May 2, 2024

Radiomics and Machine Learning in Medical ImagingMedicine被引用数 3

ひとこと要約

RayDINO は、世界中の多様なデータセットから得た 873,000 枚の胸部X線を用いて自己教師付き DINOv2 で学習された 307M パラメータのビジョントランスフォーマーです。21のベンチマークで分類、セグメンテーション、レポート生成、一般化性能の分野で最先端の性能を達成しており、タスク固有のバックボーン微調整なしに、人種的・性的・年齢的バイアスに対する耐性が向上し、患者中心の包括的解析が可能になっています。

ABSTRACT

AI Foundation models are gaining traction in various applications, including medical fields like radiology. However, medical foundation models are often tested on limited tasks, leaving their generalisability and biases unexplored. We present RayDINO, a large visual encoder trained by self-supervision on 873k chest X-rays. We compare RayDINO to previous state-of-the-art models across nine radiology tasks, from classification and dense segmentation to text generation, and provide an in depth analysis of population, age and sex biases of our model. Our findings suggest that self-supervision allows patient-centric AI proving useful in clinical workflows and interpreting X-rays holistically. With RayDINO and small task-specific adapters, we reach state-of-the-art results and improve generalization to unseen populations while mitigating bias, illustrating the true promise of foundation models: versatility and robustness.

研究の動機と目的

• 分類、セグメンテーション、レポート生成など、狭義のタスク特化型の監視を超えた包括的かつ患者中心の解釈を可能にする胸部X線解析の基盤モデルを開発すること。
• 現在の放射線学分野のAIモデルが示す限界、特に未観測の集団への一般化性の低さや、年齢、性別、人種に関するバイアスを是正すること。
• 多様な集団および画像プロトコルをカバーする現実世界の臨床環境において、自己教師付きビジョン基盤モデルの耐性と公平性を評価すること。
• 1つの固定されたビジョンエンコーダと軽量なタスク固有のアダプタを用いることで、複数の放射線学的タスクで専用モデルを上回る性能を達成できることを示すこと。
• 専門放射線科医による評価と包括的なベンチマークを用いて、モデルの臨床的有用性と解釈可能性を検証すること。

提案手法

• 米国およびヨーロッパの4つの公開データセットから得た 873,000 枚の胸部X線を用いて、DINOv2 の自己教師付き学習目的に基づきビジョントランスフォーマー（ViT）エンコーダを学習する。
• 対照的自己教師付き学習を活用し、人為的ラベルや対応するテキストを一切必要としない、豊富で一般化可能な表現を学習する。
• 固定された RayDINO エンコーダを、分類、セグメンテーション、レポート生成を含む9つの下流タスクに直接適用し、わずかに学習可能なアダプタのみを用いる。
• 7か国、4大陸にまたがる11の外部データセットを用いて、ゼロショット一般化性能および人種的バイアスへの耐性を評価する。
• レア疾患やマイノリティ集団を含む多様なベンチマークにおいて、AUROC、mDice、ピアソン相関係数、AUPRC といった標準化された指標を用いる。
• 年齢、性別、集団のデモグラフィック要因ごとのバイアス分析を実施し、公平性とモデルの一般化性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 大規模かつ多様なX線データセットで自己教師付き学習されたビジョン基盤モデルが、バックボーンのタスク固有微調整なしに、複数の放射線学的タスクで最先端の性能を達成できるか？
• RQ2 RayDINO は、異なる国や画像プロトコルを有する外部データセットにおいて、ゼロショット一般化性能をどのように発揮するか？
• RQ3 自己教師付き事前学習は、教師ありベースラインと比較して、年齢、性別、人種などのデモグラフィックバイアスをどの程度低減するか？
• RQ4 1つの固定エンコーダに軽量なアダプタを組み合わせることで、多様な臨床的タスクをサポートする包括的かつ患者中心の表現を提供できるか？
• RQ5 専門放射線科医による評価において、RayDINO は解釈可能性と臨床的妥当性において、他のモデルと比べてどのように差をつけるか？

主な発見

• RayDINO は、分類、セグメンテーション、レポート生成、未観測集団への一般化を含む9つの放射線学的タスクで、21のベンチマークで最先端の性能を達成した。
• AUROC（分類）、mDice（セグメンテーション）、AUPRC（レアクラス）において、以前の最先端モデルを顕著に上回り、特定のベンチマークでは最大10%の向上を示した。
• 未観測の集団および外部データセットへの一般化性能が優れており、BRAX および PAXRay ベンチマークで、過去のモデルよりも高い AUROC を達成した。
• 年齢および性別サブグループにおいてバイアスが低減しており、教師ありベースラインと比較してマイノリティ集団でも一貫した性能を示した。
• 専門放射線科医が RayDINO の表現の解釈可能性を検証し、臨床的妥当性とX線所見の包括的理解の両方を確認した。
• 固定エンコーダを用いながらも、最小限のタスク固有の適応で競争力のある性能を達成しており、自己教師付き事前学習が医療画像分野における柔軟性と耐性を示していることを示した。