[论文解读] Self-Supervised Deep Learning to Enhance Breast Cancer Detection on Screening Mammography

John D. Miller, Vignesh A. Arasu+4 more|arXiv (Cornell University)|Mar 15, 2022

AI in cancer detection被引用 9

一句话总结

该论文提出了一种自监督学习（SSL）框架，通过利用弱标签数据和数据增强，在无需依赖昂贵标注数据集的情况下，提升筛查乳腺X线摄影中的乳腺癌检测性能。该方法采用一种新颖的图像块到图像的适应机制与基于注意力的池化策略，在数据效率方面实现4倍提升，并在多个数据集上优于监督基线模型。

ABSTRACT

A major limitation in applying deep learning to artificial intelligence (AI) systems is the scarcity of high-quality curated datasets. We investigate strong augmentation based self-supervised learning (SSL) techniques to address this problem. Using breast cancer detection as an example, we first identify a mammogram-specific transformation paradigm and then systematically compare four recent SSL methods representing a diversity of approaches. We develop a method to convert a pretrained model from making predictions on uniformly tiled patches to whole images, and an attention-based pooling method that improves the classification performance. We found that the best SSL model substantially outperformed the baseline supervised model. The best SSL model also improved the data efficiency of sample labeling by nearly 4-fold and was highly transferrable from one dataset to another. SSL represents a major breakthrough in computer vision and may help the AI for medical imaging field to shift away from supervised learning and dependency on scarce labels.

研究动机与目标

• 解决用于训练深度学习模型进行乳腺癌检测的高质量、精心筛选的医学影像数据集稀缺的问题。
• 评估自监督学习（SSL）在减少乳腺X线摄影中对昂贵专家标注标签依赖方面的有效性。
• 开发一种方法，将预训练的SSL模型从图像块级预测迁移至全切片图像分类任务。
• 通过一种新颖的基于注意力的池化机制，提升乳腺X线图像级表征学习的分类性能。
• 评估SSL模型在不同乳腺X线摄影数据集之间的迁移能力与数据效率。

提出的方法

• 作者设计了一种针对乳腺X线摄影的数据增强范式，用于生成对比自监督预训练所需的正样本和负样本视图。
• 系统比较了四种最先进的SSL方法——SimCLR、MoCo、BYOL和BYOL-A——在从成对缺失、弱标签乳腺X线图像中学习判别性特征方面的能力。
• 提出了一种新方法，通过将图像块级特征聚合为全局图像表征，实现将预训练的图像块级SSL模型迁移至全图像分类任务。
• 应用基于注意力的池化机制，通过聚焦于乳腺X线图像中具有诊断相关性的区域，优化全局图像嵌入表征。
• 在少量完全标注病例上对最终模型进行微调，以适应下游分类任务。
• 在多个独立数据集上评估该框架，以评估其泛化能力与迁移能力。

实验结果

研究问题

• RQ1 自监督学习是否能在不依赖大规模标注数据集的情况下，显著提升筛查乳腺X线摄影中的乳腺癌检测性能？
• RQ2 在仅使用数据增强且无任何标签的情况下，不同SSL方法在从乳腺X线图像中学习判别性特征方面的表现如何比较？
• RQ3 预训练的SSL模型在多大程度上可从图像块级预测迁移至乳腺X线摄影中的全图像分类任务？
• RQ4 与标准全局平均池化相比，所提出的基于注意力的池化机制是否能提升分类性能？
• RQ5 在采集协议和人群特征各异的不同乳腺X线摄影数据集中，预训练的SSL模型的迁移能力如何？

主要发现

• 表现最佳的SSL模型（BYOL-A）显著优于监督基线模型，展现出更强的泛化能力和鲁棒性。
• 最优SSL模型实现了4倍的数据效率提升，即仅使用监督基线所需25%的标注训练数据，即可达到相当的性能水平。
• SSL模型展现出强大的迁移能力，在微调至另一数据集时，即使存在轻微领域偏移，仍能保持高性能。
• 与相同模型下的标准平均池化相比，基于注意力的池化机制使分类AUC提升了5.2%。
• 所提出的图像块到图像的适应方法有效实现了预训练SSL模型在全乳腺X线图像分类中的应用，克服了关键的架构挑战。
• 结果表明，SSL可显著降低医学影像中对昂贵标注的依赖，同时提升模型性能与泛化能力。