[论文解读] AutoMix: Unveiling the Power of Mixup.

Zicheng Liu, Siyuan Li+5 more|arXiv (Cornell University)|Mar 24, 2021

Domain Adaptation and Few-Shot Learning参考文献 26被引用 5

一句话总结

AutoMix 提出了一种端到端的、自适应的混合方法框架，通过判别性特征自动学习样本混合策略，将混合方法重新构架为一个包含两个子问题的掩蔽任务：生成合成样本和混合样本分类。该方法在六个基准测试中均优于现有的混合方法，通过基于动量的训练流程提升了模型的泛化能力。

ABSTRACT

Mixup-based data augmentation has achieved great success as regularizer for deep neural networks. However, existing mixup methods require explicitly designed mixup policies. In this paper, we present a flexible, general Automatic Mixup (AutoMix) framework which utilizes discriminative features to learn a sample mixing policy adaptively. We regard mixup as a pretext task and split it into two sub-problems: mixed samples generation and mixup classification. To this end, we design a lightweight mix block to generate synthetic samples based on feature maps and mix labels. Since the two sub-problems are in the nature of Expectation-Maximization (EM), we also propose a momentum training pipeline to optimize the mixup process and mixup classification process alternatively in an end-to-end fashion. Extensive experiments on six popular classification benchmarks show that AutoMix consistently outperforms other leading mixup methods and improves generalization abilities to downstream tasks. We hope AutoMix will motivate the community to rethink the role of mixup in representation learning. The code will be released soon.

研究动机与目标

• 为了解决现有混合方法依赖于手工设计、固定混合策略的局限性。
• 实现基于判别性特征的自动、自适应样本混合策略学习。
• 通过统一的端到端训练框架，提升深度神经网络的泛化能力。
• 将混合方法重新构架为一个包含双重优化的掩蔽任务：样本生成与分类。
• 通过灵活可学习的框架，促使重新思考混合方法在表示学习中的作用。

提出的方法

• AutoMix 将混合方法视为一个两部分的掩蔽任务：从特征图生成混合样本，并对混合样本进行分类。
• 它引入了一个轻量级的混合模块（mix block），利用特征图和标签插值生成合成样本和混合标签。
• 该框架采用类似期望最大化（EM）的优化策略，交替进行混合样本生成和分类优化。
• 采用动量训练流程，在端到端训练过程中稳定并提升两个子问题的联合优化。
• 该方法利用特征级别的表示，自适应地学习混合策略，无需预设超参数。
• 整个过程端到端训练，使模型能够从数据中学习最优的混合模式。

实验结果

研究问题

• RQ1 混合策略能否从数据中自动学习，而非手工设计？
• RQ2 如何通过联合学习样本生成与分类，实现混合过程的端到端优化？
• RQ3 自适应的、基于特征的混合策略是否能提升下游分类任务的泛化能力？
• RQ4 在生成与分类之间采用类似 EM 的交替优化，是否能相比标准混合方法提升模型性能？
• RQ5 AutoMix 在多样化基准测试中，相较于现有最先进混合方法，性能提升的幅度有多大？

主要发现

• AutoMix 在六个主流图像分类基准测试中，始终优于其他领先的混合方法。
• 该框架通过从判别性特征中学习自适应混合策略，提升了模型在下游任务中的泛化能力。
• 基于动量的训练流程实现了混合过程稳定且高效的端到端优化。
• 通过将混合方法构架为掩蔽任务，AutoMix 通过联合优化样本生成与分类，实现了更优的表示学习。
• 消融实验证实，所提出方法的设计选择（包括混合模块和动量训练）对性能提升至关重要。