[论文解读] Data efficient deep learning for medical image analysis: A survey

Suruchi Kumari, Pravendra Singh|arXiv (Cornell University)|Oct 10, 2023

AI in cancer detection被引用 4

一句话总结

本综述系统性地回顾了用于医学图像分析的数据高效深度学习方法，根据标注的可用性和质量，将这些方法分为五种监督级别：无监督、不精确监督、不完整监督、不准确监督以及仅有限监督。综述整合了250余篇近期文献（2020–2023年），分析了自监督学习、主动学习和联邦学习等关键技术，并指出了未来研究方向，如标签高效的联邦学习和文本增强学习。

ABSTRACT

The rapid evolution of deep learning has significantly advanced the field of medical image analysis. However, despite these achievements, the further enhancement of deep learning models for medical image analysis faces a significant challenge due to the scarcity of large, well-annotated datasets. To address this issue, recent years have witnessed a growing emphasis on the development of data-efficient deep learning methods. This paper conducts a thorough review of data-efficient deep learning methods for medical image analysis. To this end, we categorize these methods based on the level of supervision they rely on, encompassing categories such as no supervision, inexact supervision, incomplete supervision, inaccurate supervision, and only limited supervision. We further divide these categories into finer subcategories. For example, we categorize inexact supervision into multiple instance learning and learning with weak annotations. Similarly, we categorize incomplete supervision into semi-supervised learning, active learning, and domain-adaptive learning and so on. Furthermore, we systematically summarize commonly used datasets for data efficient deep learning in medical image analysis and investigate future research directions to conclude this survey.

研究动机与目标

• 解决医学图像分析中因隐私保护、专家资源有限和数据稀缺而导致的标注数据有限、昂贵且耗时的问题。
• 基于监督水平和质量，系统性地对数据高效深度学习方法进行分类，涵盖从无监督到仅有限监督的各个层次。
• 对2020–2023年间在顶级医学成像会议和期刊中发表的250余篇文献进行全面且最新的综述。
• 识别并分析新兴技术，如自监督预训练、神经架构搜索和联邦学习，以实现数据高效学习。
• 提出未来研究方向，包括标签高效的联邦学习、文本监督以及灵活的模型设计，以推动该领域的发展。

提出的方法

• 将数据高效方法划分为五类监督级别：无监督、不精确监督、不完整监督、不准确监督以及仅有限监督。
• 将每一类进一步细分为子类别：例如，不精确监督包括多实例学习和弱监督学习；不完整监督包括半监督学习、主动学习和领域自适应。
• 回顾自监督学习技术，如对比学习、预测性与生成性自监督，以及掩码自编码器，用于从无标注数据中学习表征。
• 分析在大规模无标注医学图像上进行预训练（例如使用SwinUNETR或统一预训练）的作用，以提升在小规模标注数据集上的微调性能。
• 研究新兴范式，如联邦学习，可在保护数据隐私的前提下，跨机构协作训练模型，并缓解本地数据集中标签稀缺的问题。
• 探索将文本数据（如临床报告、元数据）作为辅助监督信号，以提升模型泛化能力并降低对标注数据的依赖。

实验结果

研究问题

• RQ1 当缺乏大规模完全标注数据集时，如何使深度学习模型在医学图像分析中更具数据效率？
• RQ2 数据高效学习的关键方法类别是什么？它们在监督水平和实际适用性方面有何差异？
• RQ3 自监督和弱监督方法在医学图像分割、分类与检测任务中，能在多大程度上减少对专家标注数据的依赖？
• RQ4 如何将联邦学习适配于处理医疗机构间标签稀缺性和数据异构性的问题，同时保护数据隐私？
• RQ5 文本数据和多模态学习在低数据环境下，如何减轻标注负担并提升模型性能？

主要发现

• 本综述识别出五类主要的数据高效学习方法——无监督、不精确监督、不完整监督、不准确监督以及仅有限监督——并为此类近期方法提供了一个统一的分类体系。
• 在大规模无标注2D或3D医学图像上进行自监督预训练，可显著提升在小规模标注数据集上的微调性能，如Self-Supervised SwinUNETR模型所展示的那样。
• 联邦学习可在不共享原始数据的前提下实现跨机构的协作模型训练，但当前方法仍严重依赖监督学习，限制了其在低标签场景中的应用。
• 主动学习和领域自适应学习通过优先选择信息量大的样本并对齐不同领域间的分布，有效降低了标注成本。
• 神经架构搜索（NAS）在自动化模型设计方面展现出潜力，但在数据高效医学图像分析中，尤其是在分割和检测任务中，仍研究不足。
• 利用临床报告或元数据等文本监督信号，可增强视觉表征学习，是未来研究中降低标注依赖的有前景方向。