[论文解读] A Survey of Automated Data Augmentation Algorithms for Deep Learning-based Image Classification Tasks

Zihan Yang, Richard Sinnott+2 more|arXiv (Cornell University)|Jun 14, 2022

Advanced Neural Network Applications被引用 4

一句话总结

本综述对基于深度学习的图像分类任务中自动数据增强（AutoDA）技术进行了全面分析，系统性地按搜索空间、算法和评估函数对方法进行分类。研究表明，AutoDA是一种有前景的解决方案，可减少人工设计增强策略时引入的偏见。像AutoAugment和RandAugment这样的方法通过直接从数据中学习最优策略，实现了最先进性能，显著提升了在数据不平衡或含噪声数据集上的模型准确率和鲁棒性。

ABSTRACT

In recent years, one of the most popular techniques in the computer vision community has been the deep learning technique. As a data-driven technique, deep model requires enormous amounts of accurately labelled training data, which is often inaccessible in many real-world applications. A data-space solution is Data Augmentation (DA), that can artificially generate new images out of original samples. Image augmentation strategies can vary by dataset, as different data types might require different augmentations to facilitate model training. However, the design of DA policies has been largely decided by the human experts with domain knowledge, which is considered to be highly subjective and error-prone. To mitigate such problem, a novel direction is to automatically learn the image augmentation policies from the given dataset using Automated Data Augmentation (AutoDA) techniques. The goal of AutoDA models is to find the optimal DA policies that can maximize the model performance gains. This survey discusses the underlying reasons of the emergence of AutoDA technology from the perspective of image classification. We identify three key components of a standard AutoDA model: a search space, a search algorithm and an evaluation function. Based on their architecture, we provide a systematic taxonomy of existing image AutoDA approaches. This paper presents the major works in AutoDA field, discussing their pros and cons, and proposing several potential directions for future improvements.

研究动机与目标

• 解决深度学习中人工设计数据增强策略存在的主观性和低效性问题。
• 系统化整理现有的用于图像分类的自动数据增强（AutoDA）方法。
• 识别不同方法中AutoDA的核心组件——搜索空间、搜索算法和评估函数。
• 评估AutoDA技术在准确率、效率和鲁棒性之间的权衡。
• 指出未来研究方向，包括在目标检测和自然语言处理中的应用，以及对噪声或不平衡数据的处理。

提出的方法

• 根据训练与搜索阶段，将AutoDA方法分类为单阶段和双阶段流程。
• 将搜索算法分类为无梯度方法（如强化学习、进化策略）、基于梯度方法（如可微架构搜索）以及无搜索方法（如随机搜索、神经架构搜索）。
• 分析搜索空间的结构，包括图像变换函数的类型及其组合（如旋转、缩放、颜色抖动）。
• 使用标准指标评估性能，如在CIFAR-10/100和ImageNet上的top-1准确率。
• 回顾引导策略搜索的评估函数，包括验证准确率和自监督对比学习。
• 从计算成本、搜索空间复杂度以及对标签噪声和数据不平衡的鲁棒性等方面，对比不同AutoDA方法。

实验结果

研究问题

• RQ1 自动化数据增强在图像分类中如何减少对专家设计增强策略的依赖？
• RQ2 定义标准AutoDA流程的关键架构与算法组件是什么？
• RQ3 在效率和性能方面，不同搜索策略（无梯度、基于梯度、无搜索）有何比较？
• RQ4 AutoDA在噪声或不平衡数据集上能多大程度提升模型鲁棒性？
• RQ5 AutoDA在图像分类之外的潜在应用场景有哪些，例如目标检测和自然语言处理？

主要发现

• AutoAugment是首个通过强化学习学习增强策略并在CIFAR-10/100和ImageNet上实现最先进性能的AutoDA方法。
• RandAugment通过采用简化且固定深度的搜索空间并统一采样超参数，实现了显著更短的搜索时间，同时保持了具有竞争力的准确率。
• 如DADA和Scale-aware AutoAugment等AutoDA方法通过适配边界框级别的数据和预训练主干网络，在目标检测任务中表现出更优性能。
• AutoDA中的自监督评估函数被证明可提升泛化能力，尤其在低数据量场景下表现更优。
• 在数据不平衡和含噪声的数据集上，AutoDA模型优于传统手工设计的增强策略，证明了其对数据质量问题的鲁棒性。
• 本综述指出，未来AutoDA研究亟需在增强策略的准确率、效率与安全性之间实现更好平衡。