[论文解读] Comparison of different CNNs for breast tumor classification from ultrasound images

Jorge F. Lazo, Sara Moccia+2 more|arXiv (Cornell University)|Dec 28, 2020

AI in cancer detection被引用 9

一句话总结

本研究评估了使用预训练的VGG-16和Inception V3模型进行乳腺肿瘤超声图像分类时的微调与特征提取策略。微调VGG-16取得了最高性能，准确率为91.9%，AUC为0.934，优于其他配置，凸显了在数据有限的情况下，微调是该任务的更优策略。

ABSTRACT

Breast cancer is one of the deadliest cancer worldwide. Timely detection could reduce mortality rates. In the clinical routine, classifying benign and malignant tumors from ultrasound (US) imaging is a crucial but challenging task. An automated method, which can deal with the variability of data is therefore needed. In this paper, we compared different Convolutional Neural Networks (CNNs) and transfer learning methods for the task of automated breast tumor classification. The architectures investigated in this study were VGG-16 and Inception V3. Two different training strategies were investigated: the first one was using pretrained models as feature extractors and the second one was to fine-tune the pre-trained models. A total of 947 images were used, 587 corresponded to US images of benign tumors and 360 with malignant tumors. 678 images were used for the training and validation process, while 269 images were used for testing the models. Accuracy and Area Under the receiver operating characteristic Curve (AUC) were used as performance metrics. The best performance was obtained by fine tuning VGG-16, with an accuracy of 0.919 and an AUC of 0.934. The obtained results open the opportunity to further investigation with a view of improving cancer detection.

研究动机与目标

• 评估迁移学习策略（特征提取与微调）在预训练卷积神经网络上用于乳腺肿瘤超声图像分类的有效性。
• 在有限数据集上，比较两种广泛使用的网络架构VGG-16与Inception V3在不同训练策略下的性能表现。
• 识别出在自动化乳腺肿瘤诊断中最大化分类准确率与AUC的最优模型架构与训练方法组合。
• 研究在小样本医学图像数据集上训练模型时的过拟合倾向，并评估正则化技术的必要性。

提出的方法

• 采用预训练的VGG-16与Inception V3模型作为迁移学习的基础网络。
• 应用两种训练策略：(1) 冻结所有基础层，仅将网络用作特征提取器；(2) 对预训练模型的最后几层进行微调。
• 在特征提取器之上添加一个新的全连接（FC）层，其中VGG-16配置为1024个神经元，Inception V3配置为512个神经元，用于分类任务。
• 使用学习率0.001、批量大小50以及Adam优化器，在NVIDIA GTX 1660 GPU上通过Keras与TensorFlow后端进行训练。
• 未显式应用数据增强，但采用归一化技术如Dropout与L2正则化以缓解过拟合。
• 性能通过准确率与受试者工作特征曲线下面积（AUC）进行评估，其中678张图像用于训练/验证，269张用于测试。

实验结果

研究问题

• RQ1 在乳腺肿瘤超声图像分类任务中，哪种迁移学习策略——特征提取或微调——表现更优？
• RQ2 在有限数据集上，预训练CNN架构的选择（VGG-16与Inception V3）是否显著影响分类性能？
• RQ3 在训练与测试过程中，各模型的性能指标（准确率与AUC）如何变化？这反映了何种过拟合趋势？
• RQ4 微调后的VGG-16能否在小样本、多样化的乳腺超声图像数据集上实现有效泛化？

主要发现

• 微调VGG-16在测试集上取得了最高的准确率0.919与AUC 0.934，优于所有其他配置。
• 特征提取策略表现显著较差，VGG-16的准确率仅为0.862，AUC为0.791。
• Inception V3在微调后泛化能力差，尽管训练准确率超过0.93，但测试准确率仅为0.756，AUC为0.783，表明存在过拟合现象。
• 微调与特征提取策略在AUC上的差距（0.16）大于在准确率上的差距（0.046），表明微调策略具有更强的判别能力。
• 在训练过程中观察到Inception V3存在过拟合现象，训练准确率超过0.93但测试性能较低，凸显了正则化技术的必要性。
• 对预测结果的可视化分析表明，图像多样性显著影响模型泛化能力，尤其对良性肿瘤被误分类为恶性的情况影响明显。