[论文解读] Reweighting Augmented Samples by Minimizing the Maximal Expected Loss

Mingyang Yi, Lu Hou+4 more|arXiv (Cornell University)|Mar 16, 2021

Domain Adaptation and Few-Shot Learning参考文献 46被引用 6

一句话总结

本文提出了一种重加权策略，用于增强的数据样本，以最小化最大期望损失（MMEL），通过闭式解为损失更大的困难样本分配更高的权重。该方法在不修改现有增强流水线的前提下，提升了自然语言处理和图像任务中的模型泛化能力。

ABSTRACT

Data augmentation is an effective technique to improve the generalization of deep neural networks. However, previous data augmentation methods usually treat the augmented samples equally without considering their individual impacts on the model. To address this, for the augmented samples from the same training example, we propose to assign different weights to them. We construct the maximal expected loss which is the supremum over any reweighted loss on augmented samples. Inspired by adversarial training, we minimize this maximal expected loss (MMEL) and obtain a simple and interpretable closed-form solution: more attention should be paid to augmented samples with large loss values (i.e., harder examples). Minimizing this maximal expected loss enables the model to perform well under any reweighting strategy. The proposed method can generally be applied on top of any data augmentation methods. Experiments are conducted on both natural language understanding tasks with token-level data augmentation, and image classification tasks with commonly-used image augmentation techniques like random crop and horizontal flip. Empirical results show that the proposed method improves the generalization performance of the model.

研究动机与目标

• 为解决数据增强中对所有增强样本一视同仁的局限性，避免忽略更困难或更具信息量的样本。
• 开发一种重加权策略，通过更关注损失值更高的增强样本，提升模型泛化能力。
• 最小化所有可能重加权策略下的最坏情况期望损失，确保对任意权重选择的鲁棒性。
• 提供一种简单、可解释且普遍适用的方法，可与任何现有数据增强技术无缝集成。

提出的方法

• 该方法引入了最大期望损失（MEL）目标，定义为对同一原始样本的所有可能增强样本权重组合下重加权损失的上确界。
• 将优化问题表述为最小化该MEL，等价于最小化所有可能重加权方案下的最坏情况损失。
• 优化过程得到一个闭式解，该解为损失更大的单个增强样本分配更高的权重，优先关注更困难的样本。
• 该方法与底层数据增强方法无关，可应用于任何现有增强策略之上，如随机裁剪、水平翻转或标记级变换。
• 该方法受到对抗训练原理的启发，将重加权视为一个极小化极大问题，以确保鲁棒性。
• 最终模型使用重加权损失进行训练，其中每个增强样本的权重根据其对最大期望损失的贡献进行分配。

实验结果

研究问题

• RQ1 基于单个损失值对增强样本进行重加权，能否提升模型泛化能力？
• RQ2 在所有可能的重加权策略中最小化最大期望损失，是否能带来更鲁棒和泛化能力更强的模型？
• RQ3 当该方法应用于自然语言处理和计算机视觉中的不同数据增强技术时，其表现如何？
• RQ4 该重加权的闭式解在计算效率和实际有效性方面，是否在各种任务中均表现良好？

主要发现

• 所提出的MMEL方法在自然语言理解和图像分类任务中均提升了模型的泛化性能。
• 当应用于图像任务中的标准增强技术（如随机裁剪和水平翻转）时，该方法实现了稳定的性能提升。
• 在采用标记级数据增强的自然语言处理任务中，该方法显著提升了下游性能指标。
• 重加权的闭式解计算效率高，且无需额外超参数调优，仅需标准训练流程。
• 使用MMEL训练的模型对任意重加权策略均具有鲁棒性，因其最小化了最坏情况下的期望损失。
• 实证结果证实，更多关注损失更高的困难增强样本（即损失更大的样本）可带来更好的泛化效果。