[论文解读] Domain-specific optimization and diverse evaluation of self-supervised models for histopathology

Jeremy Lai, Faruk Ahmed+14 more|arXiv (Cornell University)|Oct 20, 2023

AI in cancer detection被引用 4

一句话总结

本文提出了针对组织病理学的领域特定自监督学习（SSL）方法，以提升在多种组织类型和癌症诊断中基础模型的性能。基于涵盖17种组织类型和12种癌症类型、不同放大倍数的综合性基准，作者证明了定制化的SSL技术相较于标准方法显著提升了性能，为病理学下游任务建立了高质量的基础模型。

ABSTRACT

Task-specific deep learning models in histopathology offer promising opportunities for improving diagnosis, clinical research, and precision medicine. However, development of such models is often limited by availability of high-quality data. Foundation models in histopathology that learn general representations across a wide range of tissue types, diagnoses, and magnifications offer the potential to reduce the data, compute, and technical expertise necessary to develop task-specific deep learning models with the required level of model performance. In this work, we describe the development and evaluation of foundation models for histopathology via self-supervised learning (SSL). We first establish a diverse set of benchmark tasks involving 17 unique tissue types and 12 unique cancer types and spanning different optimal magnifications and task types. Next, we use this benchmark to explore and evaluate histopathology-specific SSL methods followed by further evaluation on held out patch-level and weakly supervised tasks. We found that standard SSL methods thoughtfully applied to histopathology images are performant across our benchmark tasks and that domain-specific methodological improvements can further increase performance. Our findings reinforce the value of using domain-specific SSL methods in pathology, and establish a set of high quality foundation models to enable further research across diverse applications.

研究动机与目标

• 通过自监督学习开发基础模型，以解决组织病理学中的数据稀缺问题。
• 构建一个涵盖17种组织类型、12种癌症类型及多种放大倍数的多样化、标准化基准。
• 评估并优化专用于组织病理学的自监督学习方法，提升在图像块级别和弱监督任务上的性能。
• 为未来病理学人工智能研究建立一组高性能、可泛化的基础模型。
• 证明领域特定的方法优化可显著提升组织病理学中的自监督学习性能。

提出的方法

• 开发了一个综合性基准，涵盖17种独特的组织类型和12种独特的癌症类型，覆盖不同放大倍数和任务类型。
• 在组织病理学全切片图像上应用并评估多种自监督学习（SSL）方法，采用对比学习和掩码自编码方法。
• 通过针对组织学图像特征定制的数据增强、归一化和训练策略，优化SSL方法。
• 在保留的图像块级别分类和弱监督分类任务上评估模型，以衡量其泛化能力。
• 使用迁移学习在下游任务上微调基础模型，并在多种临床场景下测量性能。
• 开展消融研究，以分离领域特定改进对SSL性能的影响。

实验结果

研究问题

• RQ1 在涵盖组织类型、癌症类型和放大倍数的多样化组织病理学任务中，标准自监督学习方法的表现如何？
• RQ2 在多大程度上，针对领域的方法学调整能够提升组织病理学中的自监督学习性能？
• RQ3 通过领域优化的自监督学习预训练的基础模型，能否有效泛化到下游的图像块级别和弱监督分类任务？
• RQ4 在数据预处理和训练策略中，哪些组件对组织病理学中的自监督学习性能影响最大？
• RQ5 在该基准上，领域优化的自监督学习模型与标准自监督学习基线相比表现如何？

主要发现

• 当适切地应用于组织病理学图像时，标准自监督学习方法在多样化组织病理学基准上表现出强劲性能。
• 领域特定的方法学改进——如定制化数据增强和归一化——可进一步提升模型性能，超越标准自监督学习方法。
• 所提出的基​​础模型在保留的图像块级别和弱监督分类任务上表现出有效的泛化能力，展现出强大的可迁移性。
• 涵盖17种组织类型和12种癌症类型、多种放大倍数的基准，为未来研究提供了全面且可复现的评估框架。
• 本研究建立了一组高质量、高性能的组织病理学基础模型，可降低下游模型开发对数据、计算资源和专业知识的需求。
• 领域特定优化带来的性能提升在多个任务类型和组织类别中均可量化且具有一致性。