[논문 리뷰] Phikon-v2, A large and public feature extractor for biomarker prediction

Alexandre Filiot, Paul Jacob외 2명|arXiv (Cornell University)|2024. 09. 13.

Machine Learning in Bioinformatics인용 수 17

한 줄 요약

Phikon-v2는 30개가 넘는 암종에서 460M 개의 조직 슬라이더로 학습된 대형 ViT-L 자기지도 특성 추출기로, 다기관 평가에서 바이어스 생물지표 예측 성능이 경쟁 수준이며 여러 베이스라인을 능가합니다. 앙상블은 다운스트림 AUC를 크게 향상시킵니다.

ABSTRACT

Gathering histopathology slides from over 100 publicly available cohorts, we compile a diverse dataset of 460 million pathology tiles covering more than 30 cancer sites. Using this dataset, we train a large self-supervised vision transformer using DINOv2 and publicly release one iteration of this model for further experimentation, coined Phikon-v2. While trained on publicly available histology slides, Phikon-v2 surpasses our previously released model (Phikon) and performs on par with other histopathology foundation models (FM) trained on proprietary data. Our benchmarks include eight slide-level tasks with results reported on external validation cohorts avoiding any data contamination between pre-training and evaluation datasets. Our downstream training procedure follows a simple yet robust ensembling strategy yielding a +1.75 AUC increase across tasks and models compared to one-shot retraining (p<0.001). We compare Phikon (ViT-B) and Phikon-v2 (ViT-L) against 14 different histology feature extractors, making our evaluation the most comprehensive to date. Our result support evidences that DINOv2 handles joint model and data scaling better than iBOT. Also, we show that recent scaling efforts are overall beneficial to downstream performance in the context of biomarker prediction with GigaPath and H-Optimus-0 (two ViT-g with 1.1B parameters each) standing out. However, the statistical margins between the latest top-performing FMs remain mostly non-significant; some even underperform on specific indications or tasks such as MSI prediction - deposed by a 13x smaller model developed internally. While latest foundation models may exhibit limitations for clinical deployment, they nonetheless offer excellent grounds for the development of more specialized and cost-efficient histology encoders fueling AI-guided diagnostic tools.

연구 동기 및 목표

• 대형 규모의 도메인 내부 자기지도를 통한 조직 병리 전처리의 확장 필요성 제시를 통해 바이어스 예측 개선를 목표로 함.
• 데이터 규모와 모델 크기를 확장하여 조직 병리 기반 모델의 확장 효과를 평가.
• 연구자가 벤치마크하고 구축할 수 있도록 공개적이고 비상업적인 특성 추출기를 제공.
• Phikon-v2를 다수의 외부 코호트에서 평가하여 일반화 및 데이터 누출 제어를 검증.

제안 방법

• DINOv2를 사용하여 58,359개의 공개 WSIs에서 추출된 460,060,584개의 타일에서 ViT-L 모델을 사전 학습; 30개 이상 암 종 포함.
• 20배 배율의 조직 마스크 기반 타일 추출 파이프라인(224×224 타일)으로 조직 콘텐츠 최소 60% 이상 확보.
• 고정 추출기를 사용한 패치 특징 추출 후 ABMIL로 슬라이드 수준 예측을 위한 집계하는 2단계 MIL 설정으로 미세조정 및 평가.
• 태스크당 5케이스 라벨 계층 분할과 5-폴드 교차검증, 25개의 ABMIL 모델 앙상블 학습 후 외부 검증 추론 앙상블 수행.
• Phikon-v2(ViT-L)를 Phikon(ViT-B) 및 14개의 다른 조직 인코더와 8개 다운스트림 태스크에서 비교하고 부트스트랩 AUC 및 Fisher-순위 검정을 사용.

실험 결과

연구 질문

• RQ1 DINOv2를 사용한 사전 학습 데이터의 확장과 모델 크기 확장이 더 작은 베이스라인 및 이전 Phikon 모델에 비해 더 우수한 다운스트림 성능을 가져오는가?
• RQ2 :
• RQ3 Phikon-v2가 다양한 외부 보유 바이오마커 작업에서 다른 공개 조직 인코더에 비해 어떤 성능을 보이는가?
• RQ4 앙상블링과 원-샷 재학습이 슬라이드 수준 바이오마커 예측에 어떤 영향을 미치는가?
• RQ5 작업과 데이터 세트 전반에서 일관된 성능 경향이 있어 조직 병리 기반 모델의 배치에 어떤 시사점을 주는가?

주요 결과

• Phikon-v2(ViT-L)은 8개의 외부 슬라이드 수준 작업에서 최신 조직 기반 모델과 경쟁력 있는 성능을 보임.
• 앙상블 예측은 작업 간 원-샷 재훈련 대비 평균적으로 AUC를 +1.75에서 +1.75만큼 증가시킴(p<0.001).
• Phikon 및 14개의 다른 인코더와 비교할 때 ViT-L+ 모델(Phikon-v2 포함)은 일반적으로 최상위 계층에 속하며 작업 의존적 변동이 있음.
• DINOv2 기반 스케일링은 일반적으로 다운스트림 바이오마커 예측에 이득을 주나 상위 모델 간의 여유가 태스크마다 비유의적일 때가 많음.
• 특화된 소형 모델(예: iBOT 기반 MSI 예측기)이 특정 태스크에서 대형 FM보다 우수할 수 있어 단순한 확장만으로는 최적의 바이오마커 성능이 보장되지 않음을 시사.
• 앙상블은 강력한 이득을 제공하며 약지도 학습 조직 병리 태스크의 벤치마크 및 실제 배치에서 우선적으로 고려되어야 함.