[论文解读] FHIST: A Benchmark for Few-shot Classification of Histological Images

Fereshteh Shakeri, Malik Boudiaf+5 more|arXiv (Cornell University)|May 31, 2022

AI in cancer detection被引用 11

一句话总结

该论文提出了FHIST，一个用于少量样本分类的多样化公开基准，整合了多个公开数据源的数据，以模拟现实中的领域偏移和类别粒度变化。实验表明，简单的微调和正则化方法在近域设置下优于复杂的元学习方法，尤其是在10-shot任务中，最先进方法的准确率已达到90%。

ABSTRACT

Few-shot learning has recently attracted wide interest in image classification, but almost all the current public benchmarks are focused on natural images. The few-shot paradigm is highly relevant in medical-imaging applications due to the scarcity of labeled data, as annotations are expensive and require specialized expertise. However, in medical imaging, few-shot learning research is sparse, limited to private data sets and is at its early stage. In particular, the few-shot setting is of high interest in histology due to the diversity and fine granularity of cancer related tissue classification tasks, and the variety of data-preparation techniques. This paper introduces a highly diversified public benchmark, gathered from various public datasets, for few-shot histology data classification. We build few-shot tasks and base-training data with various tissue types, different levels of domain shifts stemming from various cancer sites, and different class-granularity levels, thereby reflecting realistic scenarios. We evaluate the performances of state-of-the-art few-shot learning methods on our benchmark, and observe that simple fine-tuning and regularization methods achieve better results than the popular meta-learning and episodic-training paradigm. Furthermore, we introduce three scenarios based on the domain shifts between the source and target histology data: near-domain, middle-domain and out-domain. Our experiments display the potential of few-shot learning in histology classification, with state-of-art few shot learning methods approaching the supervised-learning baselines in the near-domain setting. In our out-domain setting, for 5-way 5-shot, the best performing method reaches 60% accuracy. We believe that our work could help in building realistic evaluations and fair comparisons of few-shot learning methods and will further encourage research in the few-shot paradigm.

研究动机与目标

• 解决组织病理学中少量样本学习缺乏标准化、公开基准的问题，因为该领域标注数据稀缺且标注成本高昂。
• 构建一个反映癌症类型多样性、组织粒度差异以及不同癌症部位和数据制备方法之间领域偏移的现实评估框架。
• 在统一基准上评估最先进少量样本学习方法，以实现公平比较，并识别适用于医学影像的实用且高效的方法。
• 在三种领域偏移情景下评估少量样本方法的性能：近域、中域和远域，以评估在分布偏移下的泛化能力。

提出的方法

• 通过从多个公开数据集（包括CRC-TP、NCT、LC25000和BreakHis）收集并整理组织学图像，构建基准，以确保组织类型和成像协议的多样性。
• 基于领域偏移程度设计三种少量样本适应情景：近域（数据分布相似）、中域（中等偏移）和远域（显著偏移），以评估模型的泛化能力。
• 为5类1-shot、5-shot和10-shot设置定义少量样本任务，包含支持集和查询集，以模拟真实世界中标注样本有限的情景。
• 评估归纳式和归纳外式少量样本学习方法，包括元学习模型（如TIM）和非周期性方法（如带正则化的微调）。
• 在不同图像尺寸下使用多种主干网络架构——ResNet-18、Wide-ResNet-28-10和DeiT-Tiny——以评估模型架构对性能的影响。
• 对视觉变换器（DeiT-Tiny）进行ImageNet预训练，以改善特征表示，并与随机初始化和微调变体进行性能比较。

实验结果

研究问题

• RQ1 在具有不同领域偏移的多样化、现实的组织学图像分类基准上，最先进少量样本学习方法的性能如何？
• RQ2 在不同领域偏移水平下，元学习方法相较于简单微调和正则化技术在少量样本组织学图像分类中的表现优势有多大？
• RQ3 与标准CNN相比，预训练的视觉变换器（如DeiT-Tiny）是否能提升少量样本学习在组织学数据上的性能？
• RQ4 主干网络架构的选择如何影响在不同组织学数据集和样本设置下的少量样本分类准确率？
• RQ5 在近域和远域设置下，少量样本方法与监督基线之间的性能差距是多少？

主要发现

• 在所有领域偏移情景下，简单的微调结合正则化方法均优于复杂的元学习方法，挑战了元学习对少量样本学习必不可少的假设。
• 在近域设置下，表现最佳的方法（TIM）在LC25000数据集上以10-shot学习达到89.1%的准确率，接近监督学习基线。
• 在最具挑战性的远域设置下（如CRC-TP → NCT），最佳方法在5类5-shot分类中达到60%的准确率，证明了在显著领域偏移下少量样本学习的可行性。
• 在ImageNet上预训练DeiT-Tiny显著提升了性能，10-shot设置下在LC25000上的准确率达到89.1%，而随机初始化仅为64.8%。
• 在远域设置下，元学习（TIM）与微调之间的性能差距最为显著，其中带正则化的微调在BreakHis上以5类10-shot达到69.8%的准确率，比TIM高出超过10个百分点。
• 使用更大的输入分辨率（224×224）配合DeiT-Tiny相比小分辨率输入（84×84）性能更优，尤其在低样本设置下，当使用相同主干网络时。