[论文解读] Adversarial Auto-Augment with Label Preservation: A Representation Learning Principle Guided Approach

Kaiwen Yang, Yanchao Sun+6 more|arXiv (Cornell University)|Nov 2, 2022

Domain Adaptation and Few-Shot Learning被引用 6

一句话总结

本文提出标签保持对抗性自动增强（LP-A3），一种基于表示学习原理指导、与领域无关的数据增强方法，通过在中间模型特征中优化感知距离来生成困难正样本，同时保持标签不变。该方法在无需预定义增强操作或额外生成模型的前提下，在监督学习、半监督学习和噪声标签学习中均实现了稳定的性能提升。

ABSTRACT

Data augmentation is a critical contributing factor to the success of deep learning but heavily relies on prior domain knowledge which is not always available. Recent works on automatic data augmentation learn a policy to form a sequence of augmentation operations, which are still pre-defined and restricted to limited options. In this paper, we show that a prior-free autonomous data augmentation's objective can be derived from a representation learning principle that aims to preserve the minimum sufficient information of the labels. Given an example, the objective aims at creating a distant "hard positive example" as the augmentation, while still preserving the original label. We then propose a practical surrogate to the objective that can be optimized efficiently and integrated seamlessly into existing methods for a broad class of machine learning tasks, e.g., supervised, semi-supervised, and noisy-label learning. Unlike previous works, our method does not require training an extra generative model but instead leverages the intermediate layer representations of the end-task model for generating data augmentations. In experiments, we show that our method consistently brings non-trivial improvements to the three aforementioned learning tasks from both efficiency and final performance, either or not combined with strong pre-defined augmentations, e.g., on medical images when domain knowledge is unavailable and the existing augmentation techniques perform poorly. Code is available at: https://github.com/kai-wen-yang/LPA3}{https://github.com/kai-wen-yang/LPA3.

研究动机与目标

• 开发一种无需依赖手工设计算子或领域特定知识的自主数据增强方法。
• 提出一个基于表示学习原理的优化目标，以保留对标签的最小充分信息。
• 利用中间层表征构建实用且高效的代理目标，实现实时增强生成。
• 实现与现有机器学习流水线的无缝集成，适用于监督学习、半监督学习和噪声标签学习。
• 提升学习效率和最终模型性能，尤其在低资源或领域分布偏移场景（如医学影像）中表现更优。

提出的方法

• 该方法制定一个目标，以生成在感知距离上与原始输入尽可能远、同时保持模型对增强样本预测不变的增强数据。
• 基于中间层特征中的感知距离，使用代理目标来估计数据似然性并强制实现标签保持。
• 通过拉格朗日松弛法求解优化问题，支持使用标准反向传播进行端到端训练。
• 采用锐度感知准则，仅选择最具信息量的样本进行增强，从而降低计算成本。
• 利用终端任务模型的内部表征，无需训练额外的生成模型。
• 与现有方法兼容，可无缝集成到各种学习范式中，无需修改网络架构。

实验结果

研究问题

• RQ1 能否完全自动化数据增强，而无需依赖预定义的操作或领域知识？
• RQ2 如何生成既保留标签信息又增加表征多样性的任务感知增强数据？
• RQ3 基于中间层特征的代理目标是否能有效引导增强生成，而无需额外模型？
• RQ4 所提出的方法是否能在多种学习设置下提升学习效率和最终性能？
• RQ5 该方法对超参数（如标签保持边界σ和数据选择比例）的选择是否具有鲁棒性？

主要发现

• LP-A3在所有评估任务中（包括监督学习、半监督学习和噪声标签学习）均实现性能一致提升，且无需依赖领域特定的增强规则。
• 在MedMNIST数据集上，LP-A3在OctMNIST上提升准确率超过1%，并取得最先进结果，甚至优于在医学图像上表现不佳的RandAugment。
• 仅使用30%的数据进行增强选择即可获得最佳性能，在MedMNIST上实现≥2%的准确率提升，展现出极高的样本效率。
• 该方法对超参数选择具有鲁棒性：标签保持边界σ的性能曲线呈倒U形，表明在不同取值下均表现稳定。
• LP-A3在MedMNIST的全部10个数据集（包括PathMNIST、DermaMNIST和OrganSMNIST）上均优于基线模型，且在ResNet-18和ResNet-50上均保持一致的性能增益。
• 即使与强预定义增强方法（如RandAugment）结合，LP-A3仍能在最终准确率和训练效率方面实现显著提升。