[논문 리뷰] FHIST: A Benchmark for Few-shot Classification of Histological Images

Fereshteh Shakeri, Malik Boudiaf외 5명|arXiv (Cornell University)|2022. 05. 31.

AI in cancer detection인용 수 11

한 줄 요약

이 논문은 다양한 공공 데이터소스에서 수집한 자료를 융합하여 실제 도메인 이동과 클래스 분류의 다양성을 반영하는 희소한 샘플 분류를 위한 공개 벤치마크인 FHIST를 소개한다. 실험 결과, 단순한 미세조정 및 정규화 방법이 복잡한 메타학습 접근법보다 우수한 성능을 보이며, 특히 상태의 기준에 가까운 도메인 설정에서는 최신 기법들이 10-샷 작업에서 90%의 정확도에 이를 수 있다.

ABSTRACT

Few-shot learning has recently attracted wide interest in image classification, but almost all the current public benchmarks are focused on natural images. The few-shot paradigm is highly relevant in medical-imaging applications due to the scarcity of labeled data, as annotations are expensive and require specialized expertise. However, in medical imaging, few-shot learning research is sparse, limited to private data sets and is at its early stage. In particular, the few-shot setting is of high interest in histology due to the diversity and fine granularity of cancer related tissue classification tasks, and the variety of data-preparation techniques. This paper introduces a highly diversified public benchmark, gathered from various public datasets, for few-shot histology data classification. We build few-shot tasks and base-training data with various tissue types, different levels of domain shifts stemming from various cancer sites, and different class-granularity levels, thereby reflecting realistic scenarios. We evaluate the performances of state-of-the-art few-shot learning methods on our benchmark, and observe that simple fine-tuning and regularization methods achieve better results than the popular meta-learning and episodic-training paradigm. Furthermore, we introduce three scenarios based on the domain shifts between the source and target histology data: near-domain, middle-domain and out-domain. Our experiments display the potential of few-shot learning in histology classification, with state-of-art few shot learning methods approaching the supervised-learning baselines in the near-domain setting. In our out-domain setting, for 5-way 5-shot, the best performing method reaches 60% accuracy. We believe that our work could help in building realistic evaluations and fair comparisons of few-shot learning methods and will further encourage research in the few-shot paradigm.

연구 동기 및 목표

• 희소한 레이블 데이터와 높은 애너테이션 비용으로 인해 희소한 학습을 위한 표준화되고 공개된 벤치마크가 부족한 조직병리학 분야에서의 문제를 해결한다.
• 암 종류의 다양성, 조직의 다양한 분류 수준, 그리고 다양한 암 부위와 데이터 준비 방법에 따른 도메인 이동을 반영하는 현실적인 평가 프레임워크를 구축한다.
• 통합된 벤치마크에서 최신 희소한 학습 기법을 평가하여 공정한 비교를 가능하게 하고 의료 영상 분야에서 실용적이고 효과적인 접근법을 규명한다.
• 도메인 이동 수준에 따라 근접 도메인, 중간 도메인, 외부 도메인 세 가지 시나리오에서 희소한 학습 기법의 성능을 평가하여 분포 이동 하에서의 일반화 능력을 분석한다.

제안 방법

• 다양한 조직 유형과 영상 프로토콜을 반영하기 위해 CRC-TP, NCT, LC25000, BreakHis 등의 공공 데이터셋에서 조직학적 영상을 수집하고 정제하여 벤치마크를 구축한다.
• 도메인 이동 수준에 따라 세 가지 희소한 학습 설정을 설계한다: 근접 도메인(유사한 데이터 분포), 중간 도메인(중간 수준의 이동), 외부 도메인(크게 이격된 분포), 모델의 일반화 능력을 평가한다.
• 5-way 1-shot, 5-shot, 10-shot 설정에서 지원 세트와 쿼리 세트를 정의하여 실제 제약 조건이 있는 환경에서의 시나리오를 시뮬레이션한다.
• 메타학습 모델(예: TIM)과 비에피소딕 접근법(예: 정규화를 적용한 미세조정)을 포함한 인덕티브 및 트랜스덕티브 희소한 학습 방법을 평가한다.
• 모델 아키텍처 영향을 평가하기 위해 다양한 이미지 크기에서 ResNet-18, Wide-ResNet-28-10, DeiT-Tiny 등의 백본 아키텍처를 사용한다.
• 비전 트랜스포머(DeiT-Tiny)에 대해 ImageNet에서의 사전 훈련을 적용하여 특징 표현을 향상시키고, 무작위 초기화 및 미세조정된 변종과의 성능를 비교한다.

실험 결과

연구 질문

• RQ1 다양한 도메인 이동 수준을 반영하는 현실적이고 다양한 벤치마크에서 최신 희소한 학습 기법은 조직학적 영상 분류에서 어떻게 성능을 발휘하는가?
• RQ2 다양한 도메인 이동 수준에서 메타학습 접근법은 단순한 미세조정 및 정규화 기법보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ3 사전 훈련된 비전 트랜스포머(예: DeiT-Tiny)는 표준 CNN 대비 조직학적 데이터에서 희소한 학습 성능을 어떻게 향상시키는가?
• RQ4 백본 아키텍처의 선택은 다양한 조직학적 데이터셋과 샷 설정에서 희소한 학습 정확도에 어떻게 영향을 미치는가?
• RQ5 근접 도메인 및 외부 도메인 설정에서 희소한 학습 기법과 지도 학습 기반 모델 간의 성능 격차는 어느 정도인가?

주요 결과

• 모든 도메인 이동 시나리오에서 단순한 정규화를 적용한 미세조정이 더 복잡한 메타학습 기법보다 뛰어난 성능을 보이며, 희소한 학습에 메타학습이 필수적이라는 가정을 도전한다.
• 근접 도메인 설정에서 최고 성능을 보인 모델(TIM)은 LC25000 데이터셋에서 10-샷 학습에서 89.1%의 정확도를 기록했으며, 지도 학습 기반 모델에 근접한다.
• 가장 도전적인 외부 도메인 설정(예: CRC-TP → NCT)에서는 최고 성능 기법이 5-way 5-shot 분류에서 60%의 정확도를 달성하여 심각한 도메인 이동 하에서도 희소한 학습의 가능성을 입증한다.
• ImageNet에서 DeiT-Tiny를 사전 훈련하면 성능이 크게 향상되며, 10-샷 설정에서 LC25000에서 89.1%의 정확도를 기록한 반면, 무작위 초기화 시에는 64.8%에 그친다.
• 외부 도메인 설정에서 메타학습(TIM)과 미세조정 간 성능 격차가 가장 두드러지며, 정규화를 적용한 미세조정은 BreakHis에서 5-way 10-shot 설정에서 69.8%의 정확도를 기록하여 TIM을 10퍼센트 이상 초월한다.
• DeiT-Tiny를 사용할 경우 더 큰 입력 해상도(224×224)가 더 작은 입력 해상도(84×84)보다 성능을 향상시키며, 특히 저샷 환경에서 두드러진다.