[论文解读] Learning Optimal Data Augmentation Policies via Bayesian Optimization for Image Classification Tasks

Chunxu Zhang, Jiaxu Cui+1 more|arXiv (Cornell University)|May 6, 2019

Advanced Neural Network Applications参考文献 46被引用 4

一句话总结

本文提出 BO-Aug，一种基于贝叶斯优化的方法，可在计算成本极低的情况下自动学习图像分类任务中的最优数据增强（DA）策略。通过使用贝叶斯优化高效搜索结构化的策略空间，BO-Aug 仅使用 800 次真实评估，就在 CIFAR-10、CIFAR-100 和 SVHN 上实现了最先进或接近最先进水平的准确率，显著少于先前方法所需的数量，同时在不同模型和数据集之间表现出强大的可迁移性。

ABSTRACT

In recent years, deep learning has achieved remarkable achievements in many fields, including computer vision, natural language processing, speech recognition and others. Adequate training data is the key to ensure the effectiveness of the deep models. However, obtaining valid data requires a lot of time and labor resources. Data augmentation (DA) is an effective alternative approach, which can generate new labeled data based on existing data using label-preserving transformations. Although we can benefit a lot from DA, designing appropriate DA policies requires a lot of expert experience and time consumption, and the evaluation of searching the optimal policies is costly. So we raise a new question in this paper: how to achieve automated data augmentation at as low cost as possible? We propose a method named BO-Aug for automating the process by finding the optimal DA policies using the Bayesian optimization approach. Our method can find the optimal policies at a relatively low search cost, and the searched policies based on a specific dataset are transferable across different neural network architectures or even different datasets. We validate the BO-Aug on three widely used image classification datasets, including CIFAR-10, CIFAR-100 and SVHN. Experimental results show that the proposed method can achieve state-of-the-art or near advanced classification accuracy. Code to reproduce our experiments is available at https://github.com/zhangxiaozao/BO-Aug.

研究动机与目标

• 解决手动设计深度学习有效数据增强策略所需的高昂成本和专业知识问题。
• 减少在图像分类任务中搜索最优 DA 策略所需昂贵的真实评估次数。
• 开发一种可跨不同神经网络架构和数据集复用的可迁移 DA 策略学习方法。
• 以极低的搜索成本实现最先进或接近最先进水平的分类准确率。

提出的方法

• 该方法定义了一个由三个子策略组成的策略搜索空间，每个子策略包含两个图像变换（例如剪切、旋转），并带有可学习的概率和幅度参数。
• 使用贝叶斯优化（BO）作为搜索算法，以高效探索策略空间并选择有希望的策略进行评估。
• 使用每个候选策略在验证集上训练一个反馈模型（例如 Wide ResNet），并利用得到的分类误差更新 BO 的代理模型。
• 搜索过程基于性能反馈迭代优化策略选择，从而最小化所需的真实评估次数。
• 在 100 次迭代后，从 BO 优化的配置中提取最终的最优策略，通常在少于 100 次评估内即可实现收敛。
• 在某一数据集（如 Reduced CIFAR-10）上学习到的策略被用于评估其在其他模型和数据集（包括 CIFAR-100 和 SVHN）上的可迁移性。

实验结果

研究问题

• RQ1 贝叶斯优化能否有效用于搜索最优数据增强策略，且真实评估次数显著少于现有方法？
• RQ2 在某一数据集上发现的最优数据增强策略是否可在不重新训练的情况下跨不同神经网络架构迁移使用？
• RQ3 所提出的方法是否能在标准图像分类基准上实现最先进或接近最先进水平的分类准确率？
• RQ4 与现有自动化数据增强方法相比，所学策略在准确率和搜索成本方面的表现如何？

主要发现

• BO-Aug 仅使用 800 次真实评估，就在 CIFAR-10、CIFAR-100 和 SVHN 上实现了最先进或接近最先进水平的分类准确率，少于 AutoAugment 所需的 15,000 次评估的 6%。
• 在缩减数据集（如 CIFAR-10 的 10%）上，BO-Aug 的性能与最先进水平的半监督学习方法相当，表明其在数据稀缺条件下的强大有效性。
• 在某一数据集（如 Reduced CIFAR-10）上学习到的最优数据增强策略具有良好的泛化能力，可显著提升多种架构（包括 Wide ResNet 和 Shake-Shake 网络）在相同或不同数据集（如 CIFAR-100）上的性能。
• BO 搜索通常在少于 100 次迭代内收敛，分类误差在前 20–30 次评估内迅速下降。
• 该方法将策略搜索的总训练时间减少至 AutoAugment 时间的 6% 以下，且 BO 算法本身带来的开销可忽略不计。
• 策略在不同架构和数据集之间的可迁移性表明，所学策略捕捉到了可泛化的数据增强策略，适用于原始训练设置之外的场景。