[论文解读] Improving Deep Learning using Generic Data Augmentation

Luke Taylor, Geoff Nitschke|arXiv (Cornell University)|Aug 20, 2017

Machine Learning and Data Classification被引用 159

一句话总结

这篇论文在 Caltech101 上用一个简单的卷积神经网络对七种通用数据增强方法（几何与光度）进行基准测试，发现裁剪（几何）带来最大的 Top-1 增益，而光度方法提供较小的改进。

ABSTRACT

Deep artificial neural networks require a large corpus of training data in order to effectively learn, where collection of such training data is often expensive and laborious. Data augmentation overcomes this issue by artificially inflating the training set with label preserving transformations. Recently there has been extensive use of generic data augmentation to improve Convolutional Neural Network (CNN) task performance. This study benchmarks various popular data augmentation schemes to allow researchers to make informed decisions as to which training methods are most appropriate for their data sets. Various geometric and photometric schemes are evaluated on a coarse-grained data set using a relatively simple CNN. Experimental results, run using 4-fold cross-validation and reported in terms of Top-1 and Top-5 accuracy, indicate that cropping in geometric augmentation significantly increases CNN task performance.

研究动机与目标

• 评估常见通用数据增强方法对粗粒度数据集上 CNN 性能的影响。
• 确定哪种增强方案（几何 vs 光度）提供最可靠的改进。
• 提供实证性指南，帮助在小到中等数据集上选择增强技术以减少过拟合。

提出的方法

• 评估七种数据增强方法（无增强、翻转、旋转、裁剪、颜色抖动、边缘增强、Fancy PCA）。
• 使用具有 5 层可训练层和特定超参数的 CNN 架构（ReLU、Xavier 初始化、带 Nesterov 的 SGD、L2 正则化）。
• 在 Caltech101 上进行 4 折交叉验证训练，并报告 Top-1 与 Top-5 的准确率及标准差。
• 将图像缩小至 256x256，应用中心填充，并在增强前将像素归一化到 [0,1]。
• 比较几何与光度增强，确定哪一类别带来更大的性能提升。

实验结果

研究问题

• RQ1 在像 Caltech101 这样的粗粒度数据集上，哪些通用数据增强方法最能改善 CNN 的性能？
• RQ2 在这类情境下，几何变换是否优于光度变换？
• RQ3 哪一种单一增强方法带来最大的 Top-1 与 Top-5 增益？
• RQ4 增强对小到中等数据集上的模型泛化能力和过拟合有何影响？

主要发现

方法	Top-1	Top-5
Baseline	48.13 ± 0.42%	64.50 ± 0.65%
Flipping	49.73 ± 1.13%	67.36 ± 1.38%
Rotating	50.80 ± 0.63%	69.41 ± 0.48%
Cropping	61.95 ± 1.01%	79.10 ± 0.80%
Color Jittering	49.57 ± 0.53%	67.18 ± 0.42%
Edge Enhancement	49.29 ± 1.16%	66.49 ± 0.84%
Fancy PCA	49.41 ± 0.84%	67.54 ± 1.01%

• 裁剪带来最大的 Top-1 提升（61.95% 对比基线 48.13%）。
• 在 Caltech101 上，几何增强通常在 Top-1 和 Top-5 上优于光度增强。
• 旋转和翻转相对基线有显著提升，但裁剪仍然是总体最强。
• 光度方法显示适度提升，其中颜色抖动和 Fancy PCA 的 Top-1/Top-5 增益相较裁剪较小。
• 所有增强方法均优于无增强，标准差表明交叉验证结果稳定。