[论文解读] Convolutional Neural Networks for Breast Cancer Screening: Transfer Learning with Exponential Decay

Hiba Chougrad, Hamid Zouaki+1 more|arXiv (Cornell University)|Nov 29, 2017

AI in cancer detection参考文献 5被引用 27

一句话总结

该论文提出了一种基于迁移学习的CNN模型，采用Inception-v3并使用指数衰减学习率进行微调，以提高乳腺癌筛查的准确性。通过在包含600个乳腺X线病变的小型平衡数据集上进行逐层衰减学习率的微调，该方法实现了97.50%的准确率和0.96的AUC，优于先前的方法和人类水平表现。

ABSTRACT

In this paper, we propose a Computer Assisted Diagnosis (CAD) system based on a deep Convolutional Neural Network (CNN) model, to build an end-to-end learning process that classifies breast mass lesions. We investigate the impact that has transfer learning when large data is scarce, and explore the proper way to fine-tune the layers to learn features that are more specific to the new data. The proposed approach showed better performance compared to other proposals that classified the same dataset.

研究动机与目标

• 在医疗数据有限的情况下，利用深度学习提高乳腺X线摄影中乳腺癌诊断的准确性。
• 研究在低数据环境下迁移学习在医学图像分类中的有效性。
• 确定在训练数据稀缺且不平衡时，深度CNN微调的最佳策略。
• 评估逐层学习率衰减对乳腺病变分类中模型泛化能力和性能的影响。

提出的方法

• 在BCDR-F03数据集的600个乳腺X线病变（300个良性，300个恶性）的平衡子集上微调预训练的Inception-v3模型。
• 将感兴趣区域（ROIs）裁剪为299×299像素以匹配ImageNet的输入尺寸，并应用全局对比度归一化。
• 通过随机平移、旋转（最多40°）和水平翻转进行数据增强，以提高模型鲁棒性。
• 用包含两个全连接层和一个Dropout层（p=0.5）的自定义分类头替换原始的全连接层和Softmax层。
• 实施逐层指数衰减学习率调度：$ t_l = t_0 \cdot \exp(-\lambda \cdot l) $，其中 $ \lambda = -3 $，以逐步降低从顶层到底层的权重学习率。
• 使用带有动量（0.9）的SGD进行训练，并采用早停策略，耐心值为15个周期，监控验证损失。

实验结果

研究问题

• RQ1 当缺乏大规模数据集时，迁移学习是否对乳腺癌筛查有益？
• RQ2 微调策略的选择——特别是解冻层数量——如何影响小规模医学数据集上的模型性能？
• RQ3 在医学影像的微调CNN中，跨层使用指数衰减学习率是否能改善泛化并减少过拟合？
• RQ4 在乳腺病变分类的迁移学习中，特征复用与任务特定适应之间的最佳平衡是什么？

主要发现

• 所提出的Inception-v3-FTED模型在相同数据集上实现了97.50%的准确率（标准偏差±1.26%），显著优于其他方法。
• 微调最后两个卷积模块（Inceptionv3-2FT）获得了最高准确率96.67%，进一步微调反而导致性能下降。
• 采用跨层指数衰减学习率（Inceptionv3-FTED）相比均匀微调，带来了更好的收敛性和泛化能力。
• 模型AUC达到0.96，超过先前研究中报告的人类水平表现（AUC≈0.90）。
• 与随机初始化相比，使用预训练ImageNet权重的迁移学习显著提升了训练效率和准确率（准确率75.83%）。
• 通过数据增强、Dropout和逐层学习率调度的结合，模型表现出对过拟合的强鲁棒性。