[论文解读] Auxiliary Image Regularization for Deep CNNs with Noisy Labels

Samaneh Azadi, Jiashi Feng+2 more|arXiv (Cornell University)|Nov 22, 2015

Advanced Neural Network Applications参考文献 20被引用 22

一句话总结

本文提出辅助图像正则化（AIR），一种用于深度卷积神经网络的新颖组稀疏正则化方法，通过自动选择信息丰富且干净的训练图像作为辅助样本，提升模型对标签噪声的鲁棒性。采用随机ADMM方法，AIR在特征响应上施加结构化稀疏性，抑制噪声样本，提升在具有合成标签和真实世界噪声标签的基准数据集上的分类准确率。

ABSTRACT

Precisely-labeled data sets with sufficient amount of samples are very important for training deep convolutional neural networks (CNNs). However, many of the available real-world data sets contain erroneously labeled samples and those errors substantially hinder the learning of very accurate CNN models. In this work, we consider the problem of training a deep CNN model for image classification with mislabeled training samples - an issue that is common in real image data sets with tags supplied by amateur users. To solve this problem, we propose an auxiliary image regularization technique, optimized by the stochastic Alternating Direction Method of Multipliers (ADMM) algorithm, that automatically exploits the mutual context information among training images and encourages the model to select reliable images to robustify the learning process. Comprehensive experiments on benchmark data sets clearly demonstrate our proposed regularized CNN model is resistant to label noise in training data.

研究动机与目标

• 解决在用户提供的标签存在噪声、导致模型性能下降的图像数据集上训练深度卷积神经网络的挑战。
• 开发一种正则化方法，可自动识别并利用可靠的训练图像作为辅助样本，以增强模型鲁棒性。
• 通过利用数据流形结构，使深度卷积神经网络在存在标签噪声的情况下仍能学习到准确的表征。
• 设计一种可扩展、自适应的正则化方法，无需事先了解标签混淆分布。

提出的方法

• 提出一种辅助图像正则化器（AIR），对深层卷积神经网络特征的响应图施加组稀疏正则化，而非对模型参数进行正则化。
• 采用重叠组范数，以促进选择信息丰富的图像表征，同时抑制噪声或误标样本。
• 使用随机ADMM优化正则化目标，实现对大规模数据集的可扩展性。
• 利用在独立数据集上预训练的深度特征，定义正则化所需的数据流形结构。
• 在卷积神经网络的顶层施加正则化，使模型能够学习仅关注相关且干净的辅助图像的分类器。
• 在正则化项中对组进行采样，以降低内存使用量，同时保持准确率基本不变。

实验结果

研究问题

• RQ1 数据驱动的正则化方法是否能提升深度卷积神经网络在标签存在噪声的图像分类任务中的性能？
• RQ2 组稀疏正则化方法在选择可靠辅助图像以抑制噪声样本方面是否具有高效性？
• RQ3 AIR在应对合成标签噪声和真实世界标签噪声方面，是否优于标准模型和现有方法？
• RQ4 该正则化方法是否可在大规模数据集上实现可扩展性，同时保持极低的内存开销？

主要发现

• 在CIFAR-10数据集上，当标签噪声比例为50%时，AIR达到72.3%的测试准确率，优于标准模型和基线方法。
• 仅使用1%的组参与正则化时，AIR显著降低了内存开销，准确率仅下降0.5%（降至71.8%）。
• 在NUS-WIDE-LITE数据集上，AIR的平均平均精度（mAP）高于SVM及其他基线方法，证明其对用户标签噪声具有更强的鲁棒性。
• 可视化结果表明，AIR正确地为激活分数高的干净图像赋予优先级，同时抑制了噪声或误标图像。
• 模型抑制噪声样本的能力通过视觉和定量分析得到验证，表明AIR能有效忽略误标训练样本。
• AIR在真实世界噪声数据上表现出强大的泛化能力，即使在缺乏标签混淆模式先验知识的情况下也表现有效。