[论文解读] Low-cost and high-performance data augmentation for deep-learning-based skin lesion classification

Shuwei Shen, Mengjuan Xu+9 more|arXiv (Cornell University)|Jan 7, 2021

Cutaneous Melanoma Detection and Management参考文献 50被引用 8

一句话总结

本文提出了一种低成本、高性能的数据增强策略，用于基于深度学习的皮肤病变分类，结合自动化增强搜索与神经架构搜索，在 HAM10000 数据集上实现性能优化。通过将搜索空间缩减至 60 个，以 EfficientNet 作为基线模型，该方法在不依赖外部数据集的情况下实现了 0.853 的平衡准确率，适用于低资源环境下的移动设备高效部署。

ABSTRACT

Although deep convolutional neural networks (DCNNs) have achieved significant accuracy in skin lesion classification comparable or even superior to those of dermatologists, practical implementation of these models for skin cancer screening in low resource settings is hindered by their limitations in computational cost and training dataset. To overcome these limitations, we propose a low-cost and high-performance data augmentation strategy that includes two consecutive stages of augmentation search and network search. At the augmentation search stage, the augmentation strategy is optimized in the search space of Low-Cost-Augment (LCA) under the criteria of balanced accuracy (BACC) with 5-fold cross validation. At the network search stage, the DCNNs are fine-tuned with the full training set in order to select the model with the highest BACC. The efficiency of the proposed data augmentation strategy is verified on the HAM10000 dataset using EfficientNets as a baseline. With the proposed strategy, we are able to reduce the search space to 60 and achieve a high BACC of 0.853 by using a single DCNN model without external database, suitable to be implemented in mobile devices for DCNN-based skin lesion detection in low resource settings.

研究动机与目标

• 为解决在低资源环境中部署深度学习模型进行皮肤癌筛查时面临的高计算成本和训练数据有限的挑战。
• 开发一种数据增强策略，提升模型泛化能力，且不依赖外部数据集或昂贵计算资源。
• 通过基于搜索的方法，同时优化数据增强与神经网络架构。
• 实现适用于轻量化模型移动部署的高效、高精度皮肤病变分类。
• 仅使用原始训练数据和单一 DCNN 模型，在 HAM10000 数据集上实现最先进性能。

提出的方法

• 该方法采用两阶段搜索框架：先进行增强搜索，再进行网络搜索。
• 在增强搜索阶段，搜索空间由低计算成本增强（Low-Cost-Augment, LCA）定义，其包含一系列计算高效的增强方法，如 mixup、cutout 和 auto-augment。
• 使用五折交叉验证，以平衡准确率（BACC）作为评估指标，对增强策略进行优化。
• 在网络搜索阶段，从一组在完整训练集上微调的 EfficientNet 变体中选择表现最佳的模型。
• 搜索过程实现自动化且高效，将有效搜索空间缩减至仅 60 种不同配置。
• 最终模型使用完整数据集进行端到端训练，并仅在 HAM10000 基准上进行评估。

实验结果

研究问题

• RQ1 低成本数据增强策略是否能在不使用外部数据集的情况下显著提升皮肤病变分类准确率？
• RQ2 如何在保持高性能的同时有效缩小数据增强的搜索空间？
• RQ3 同时优化数据增强与网络架构是否能优于顺序或人工设计的方法？
• RQ4 仅使用原始训练数据和自动化搜索，单一 DCNN 模型在 HAM10000 数据集上能达到多高的性能？
• RQ5 所提出的方法是否适合在低资源临床环境中部署于移动设备？

主要发现

• 所提方法在 HAM10000 数据集上实现了 0.853 的平衡准确率，优于基线模型，且不依赖外部数据。
• 搜索空间被缩减至仅 60 种配置，与标准搜索方法相比，显著降低了计算成本。
• 该方法可使用单一 DCNN 模型实现高性能皮肤病变分类，无需集成模型或外部数据集。
• 由于计算量小且效率高，最终模型适合在移动设备上部署。
• 两阶段搜索框架——先增强搜索后网络搜索——在识别数据与模型的最优配置方面证明是有效的。
• 结果表明，自动化、低成本的增强方法可达到甚至超越更复杂、资源消耗更高的方法的性能。