[논문 리뷰] Benchmarking Embedding Aggregation Methods in Computational Pathology: A Clinical Data Perspective

Shengjia Chen, Gabriele Campanella외 9명|arXiv (Cornell University)|2024. 07. 10.

AI in cancer detection인용 수 6

한 줄 요약

이 논문은 도메인 특화 임베딩과 ImageNet 사전학습 임베딩을 활용하여 임베딩 집계 방법 10종을 9개의 임상 관련 CPath 과제에서 벤치마킹하고, 임상 병리학에서의 성능과 일반화 가능성을 평가합니다. 도메인 특화 임베딩이 일반적으로 ImageNet보다 우수한 반면 모든 과제에서 단일 방법이 우세하지 않으며, 공간 정보를 도입하는 이점이 제한적임을 강조합니다.

ABSTRACT

Recent advances in artificial intelligence (AI), in particular self-supervised learning of foundation models (FMs), are revolutionizing medical imaging and computational pathology (CPath). A constant challenge in the analysis of digital Whole Slide Images (WSIs) is the problem of aggregating tens of thousands of tile-level image embeddings to a slide-level representation. Due to the prevalent use of datasets created for genomic research, such as TCGA, for method development, the performance of these techniques on diagnostic slides from clinical practice has been inadequately explored. This study conducts a thorough benchmarking analysis of ten slide-level aggregation techniques across nine clinically relevant tasks, including diagnostic assessment, biomarker classification, and outcome prediction. The results yield following key insights: (1) Embeddings derived from domain-specific (histological images) FMs outperform those from generic ImageNet-based models across aggregation methods. (2) Spatial-aware aggregators enhance the performance significantly when using ImageNet pre-trained models but not when using FMs. (3) No single model excels in all tasks and spatially-aware models do not show general superiority as it would be expected. These findings underscore the need for more adaptable and universally applicable aggregation techniques, guiding future research towards tools that better meet the evolving needs of clinical-AI in pathology. The code used in this work is available at \url{https://github.com/fuchs-lab-public/CPath_SABenchmark}.

연구 동기 및 목표

• 9개의 임상 관련 CPath 과제에서 10개의 슬라이드 수준 집계 방법 평가.
• 임베딩 출처(도메인 특화 대 ImageNet)가 집계 성능에 어떤 영향을 미치는지 평가.
• 공간 정보가 도움이 되는 경우를 비교하여 실용적인 가이드라인 제시.
• 병리학에서 보편적으로 적용 가능한 집계 기법의 향후 개발을 안내하는 통찰 제공.

제안 방법

• WSI를 tile를 인스턴스로 하는 MIL 가방으로 형상화하고, 임베딩을 h_i = f(x_i)로 표현합니다.
• 타일마다 선택적으로 공간 정보 s_i를 고려합니다.
• 4개의 FM으로부터 얻은 임베딩을 사용하여 9개 과제에서 10개의 집계 방법을 평가합니다.
• 과제당 20-fold Monte Carlo 교차검증으로 로버스트성 평가를 수행합니다.
• 고정된 40-에포크 일정으로 단일 A100 GPU에서 AdamW로 학습합니다.
• AB-MIL 기준선 대비 성능 비교 및 단측 t-검정을 수행합니다.

실험 결과

연구 질문

• RQ1 임베딩 기원(도메인 특화 vs. ImageNet)이 과제 전반에 걸친 집계 성능에 영향을 미칩니까?
• RQ2 진단, 바이오마커, 결과 예측 과제에서 어떤 슬라이드 수준 집계기가 최적입니까?
• RQ3 단일 우수한 집계 방법이 있는가, 아니면 과제 의존 차이가 우세합니까?
• RQ4 공간 정보를 도입하는 것이 서로 다른 임베딩에 대해 성능에 어떤 영향을 줍니까?

주요 결과

• 도메인 특화 임베딩(CTransPath, dinosmall, UNI)이 대부분의 과제에서 ImageNet 기반 임베딩보다 우수합니다.
• 공간 인지 집계기는 ImageNet 사전 학습 모델에서 성능을 향상시키지만, Foundation 모델에서는 일관되게 개선되지 않습니다.
• 단일 집계 방법이 모든 과제를 지배하지 않으며, 성능은 과제와 임베딩에 따라 달라집니다.
• AB-MIL은 여전히 강력한 기준선이며, 특정 과제나 임베딩에서만 여러 방법이 AB-MIL보다 향상되는 경향이 있습니다.
• 도메인 특화 임베딩은 상자형 그래프에서 분산이 더 낮아 성능이 더 안정적인 경향을 보입니다.
• 소스 간 공개 데이터셋을 비교할 때 성능 변동성이 존재하여 일반화의 도전이 강조됩니다.