[论文解读] Adaptive Risk Minimization: A Meta-Learning Approach for Tackling Group Shift

Marvin Mengxin Zhang, Henrik Marklund+4 more|arXiv (Cornell University)|May 4, 2021

Domain Adaptation and Few-Shot Learning参考文献 89被引用 39

一句话总结

本文提出了自适应风险最小化（ARM），一种元学习框架，通过使用无标签批次数据在测试时适应分布偏移来训练模型。通过在元训练期间模拟群体分布偏移，ARM在分布偏移下的图像分类任务中提升了鲁棒性和性能，优于先前的方法。

ABSTRACT

A fundamental assumption of most machine learning algorithms is that the training and test data are drawn from the same underlying distribution. However, this assumption is violated in almost all practical applications: machine learning systems are regularly tested under distribution shift, due to temporal correlations, particular end users, or other factors. In this work, we consider the setting where the training data are structured into groups and test time shifts correspond to changes in the group distribution. Prior work has approached this problem by attempting to be robust to all possible test time distributions, which may degrade average performance. In contrast, we propose to use ideas from meta-learning to learn models that are adaptable, such that they can adapt to shift at test time using a batch of unlabeled test points. We acquire such models by learning to adapt to training batches sampled according to different distributions, which simulate structural shifts that may occur at test time. Our primary contribution is to introduce the framework of adaptive risk minimization (ARM), a formalization of this setting that lends itself to meta-learning. We develop meta-learning methods for solving the ARM problem, and compared to a variety of prior methods, these methods provide substantial gains on image classification problems in the presence of shift.

研究动机与目标

• 为解决机器学习中的分布偏移挑战，即训练数据和测试数据来自不同的群体分布。
• 克服先前鲁棒学习方法因过度保守而导致平均性能下降的局限性。
• 开发一种模型，仅使用少量无标签测试数据批次，即可在测试时高效适应新的群体分布。
• 通过ARM框架将分布偏移适应问题形式化为元学习任务。
• 在各种类型的群体偏移下，提升图像分类基准的性能。

提出的方法

• 将分布偏移问题形式化为自适应风险最小化（ARM），其中模型被训练以适应不同的群体分布。
• 使用元学习在来自不同群体分布的多样化训练批次上进行训练，以模拟测试时可能出现的分布偏移。
• 学习一个元学习器，根据少量无标签测试数据更新模型参数，以适应新分布。
• 通过在元训练期间对多个模拟分布偏移的期望风险进行最小化，来优化元目标。
• 采用基于梯度的元学习（例如MAML风格），以实现仅用少量测试样本即可快速适应。
• 采用基于支持集的自适应机制，模型使用来自新群体分布的少量无标签测试样本更新其权重。

实验结果

研究问题

• RQ1 元学习能否被有效用于训练在测试时适应分布偏移的模型？
• RQ2 在分布偏移条件下，所提出的ARM框架与先前的鲁棒学习方法相比性能如何？
• RQ3 仅使用少量无标签测试数据进行的适应，能在多大程度上提升模型在偏移群体分布上的泛化能力？
• RQ4 在多样化模拟偏移上进行训练的元学习方法，是否能带来更好的鲁棒性和平均性能？

主要发现

• 与先前方法相比，所提出的ARM框架在分布偏移下的图像分类基准上实现了显著的性能提升。
• 使用ARM训练的模型在各种类型的群体偏移下表现出更强的鲁棒性，同时未牺牲在原始分布上的性能。
• 仅使用少量无标签测试数据进行的适应，显著提高了在偏移测试集上的准确率。
• 元学习方法实现了快速且有效的适应，优于假设最坏情况分布偏移的方法。
• 实证结果表明，ARM在保持高性能平均值的同时，对分布偏移具有强鲁棒性。