[論文レビュー] MedCLIP-SAMv2: Towards Universal Text-Driven Medical Image Segmentation

Taha Koleilat, Hojat Asgariandehkordi+2 more|arXiv (Cornell University)|Sep 28, 2024

Radiomics and Machine Learning in Medical Imaging被引用数 4

ひとこと要約

MedCLIP-SAMv2 は、CT、MRI、超音波、X線におけるゼロショットおよび弱教師ありセグメンテーションを可能にする、テキスト駆動型医療画像セグメンテーションフレームワークを提案する。BiomedCLIP を微調整し、Segment-Anything-Model (SAM) と統合することで、最小限のアノテーションで最先端の性能を達成。新たな分離型ハードネガティブノイズ対比推定損失 (DHN-NCE) とマルチモーダル情報ボトルネック (M2IB) を用いて視覚的プロンプトを生成し、複雑な腫瘍セグメンテーションタスクにおいて、先行手法を顕著に上回る性能を発揮する。

ABSTRACT

Segmentation of anatomical structures and pathological regions in medical images is essential for modern clinical diagnosis, disease research, and treatment planning. While significant advancements have been made in deep learning-based segmentation techniques, many of these methods still suffer from limitations in data efficiency, generalizability, and interactivity. As a result, developing precise segmentation methods that require fewer labeled datasets remains a critical challenge in medical image analysis. Recently, the introduction of foundation models like CLIP and Segment-Anything-Model (SAM), with robust cross-domain representations, has paved the way for interactive and universal image segmentation. However, further exploration of these models for data-efficient segmentation in medical imaging is still needed and highly relevant. In this paper, we introduce MedCLIP-SAMv2, a novel framework that integrates the CLIP and SAM models to perform segmentation on clinical scans using text prompts, in both zero-shot and weakly supervised settings. Our approach includes fine-tuning the BiomedCLIP model with a new Decoupled Hard Negative Noise Contrastive Estimation (DHN-NCE) loss, and leveraging the Multi-modal Information Bottleneck (M2IB) to create visual prompts for generating segmentation masks from SAM in the zero-shot setting. We also investigate using zero-shot segmentation labels within a weakly supervised paradigm to enhance segmentation quality further. Extensive testing across four diverse segmentation tasks and medical imaging modalities (breast tumor ultrasound, brain tumor MRI, lung X-ray, and lung CT) demonstrates the high accuracy of our proposed framework. Our code is available at https://github.com/HealthX-Lab/MedCLIP-SAMv2.

研究の動機と目的

• 最小限のアノテーションデータでのゼロショットおよび弱教師あり学習を可能にすることで、医療画像セグメンテーションにおけるデータ不足という重要な課題に対処する。
• タスク固有の再トレーニングを必要とせず、CT、MRI、超音波、X線を含む多様な医療画像モodal において、セグメンテーションモデルの汎化性と耐性を向上させる。
• 自然言語プロンプトを用いたインタラクティブでテキスト駆動型のセグメンテーションを支援するフレームワークを構築し、臨床現場での利用可能性と解釈可能性を向上させる。
• 弱教師あり設定における不確実性推定を強化することで、臨床医がリスクの高い予測領域を特定できるように、モデルの信頼性を向上させる。
• SAM のプロンプト依存性の制限を克服するため、教師なしセグメンテーションラベルを必要とせず、CLIPベースの表現から信頼性の高い視覚的プロンプトを生成する手法を提案する。

提案手法

• 医療画像とテキストのアライメントを向上させるために、BiomedCLIP の表現学習を改善する新たな微調整損失、分離型ハードネガティブノイズ対比推定 (DHN-NCE) を提案する。
• テキスト埋め込みから高品質な視覚的プロンプトを生成するためのマルチモーダル情報ボトルネック (M2IB) を導入し、SAM を用いたゼロショットセグメンテーションを可能にする。
• 大規模言語モデル (LLM) の推論とアンサンブルを活用したテキストプロンプト工学により、複雑な解剖的領域におけるプロンプト品質を最適化し、セグメンテーション精度を向上させる。
• ゼロショットセグメンテーションから得た疑似ラベルを用いて、弱教師あり設定で nnUNet を微調整することで、肺CT などの困難なデータセットにおける性能を向上させる。
• チェックポイントアンサンブルを活用し、弱教師あり学習における不確実性推定を実装し、セグメンテーション予測の信頼性スコアを提供する。
• CLIPベースの視覚的プロンプト生成と SAM のゼロショットマスクヘッドを統合することで、推論時に教師なしセグメンテーションラベルを必要とせず、正確なセグメンテーションマスクを生成する。

実験結果

リサーチクエスチョン

• RQ1 BiomedCLIP のようなビジョン・ランゲージ基盤モデルが、新たな対比損失 (DHN-NCE) を用いて効果的に微調整可能であり、ゼロショット医療画像セグメンテーションの性能を向上させられるか。
• RQ2 マルチモーダル情報ボトルネック (M2IB) が、ゼロショット設定下で、SAM を用いた正確なセグメンテーションを可能にする高品質な視覚的プロンプトをどの程度生成できるか。
• RQ3 特に大規模言語モデル (LLM) の推論とアンサンブルを統合したテキストプロンプト工学が、多様な解剖的構造および画像モダリティにおいて、セグメンテーション性能にどのような影響を及えるか。
• RQ4 ゼロショットセグメンテーションから得た疑似ラベルが、特に肺腫瘍のような複雑な3D構造を有するCTスキャンにおいて、弱教師あり設定で効果的にモデルの精度向上に寄与できるか。
• RQ5 疑似ラベル付きデータに対するチェックポイントアンサンブルによる不確実性推定が、低データ環境下で臨床的信頼性と予測の信頼性を向上させられるか。

主な発見

• MedCLIP-SAMv2 は、CT、MRI、超音波、X線の4つの医療画像モダリティにおいて、ゼロショットセグメンテーションで最先端の性能を達成し、既存の最先端手法を上回る。
• M2IB と DHN-NCE の統合により、特に脳腫瘍や乳房腫瘍のような小さな複雑な構造の検出において、ゼロショットセグメンテーション精度が顕著に向上する。
• LLM の推論とアンサンブルで強化されたテキストプロンプトは、微細な理解が求められる解剖学的に複雑なタスクにおいて、優れたセグメンテーション結果をもたらす。
• ゼロショットセグメンテーションから得た疑似ラベルを用いた弱教師あり学習により、顕著な性能向上が得られ、特に肺CTセグメンテーションで最大の向上が観察された。
• 疑似ラベル付きデータに対するチェックポイントアンサンブルによる不確実性推定は、臨床的に価値ある信頼性スコアを提供し、リスクの高い予測領域の特定を可能にする。
• SAM は、粗いまたは不完全な視覚的プロンプトに対しても高い耐性を示し、実世界の設定においても一般化能力が優れていることが示された。