[论文解读] Coping with Label Shift via Distributionally Robust Optimisation

Jingzhao Zhang, Aditya Krishna Menon+4 more|arXiv (Cornell University)|Oct 23, 2020

Supply Chain and Inventory Management参考文献 41被引用 7

一句话总结

该论文提出 AdvShift，一种分布鲁棒优化（DRO）方法，通过在训练标签分布的 KL 散度球内最小化最坏情况风险，使单个分类器对任意标签偏移具有鲁棒性。该方法使用梯度下降-近端镜像上升算法以稳定训练，在 CIFAR-100 和 ImageNet 上的对抗性标签偏移下，性能显著优于基线方法。

ABSTRACT

The label shift problem refers to the supervised learning setting where the train and test label distributions do not match. Existing work addressing label shift usually assumes access to an \emph{unlabelled} test sample. This sample may be used to estimate the test label distribution, and to then train a suitably re-weighted classifier. While approaches using this idea have proven effective, their scope is limited as it is not always feasible to access the target domain; further, they require repeated retraining if the model is to be deployed in \emph{multiple} test environments. Can one instead learn a \emph{single} classifier that is robust to arbitrary label shifts from a broad family? In this paper, we answer this question by proposing a model that minimises an objective based on distributionally robust optimisation (DRO). We then design and analyse a gradient descent-proximal mirror ascent algorithm tailored for large-scale problems to optimise the proposed objective. %, and establish its convergence. Finally, through experiments on CIFAR-100 and ImageNet, we show that our technique can significantly improve performance over a number of baselines in settings where label shift is present.

研究动机与目标

• 解决现实部署中测试标签分布与训练分布不同的标签偏移挑战。
• 克服现有方法需要访问未标注测试数据以进行分布估计的局限性。
• 开发一个单一、鲁棒的分类器，使其在具有不同标签分布的多个测试环境中均能良好泛化。
• 通过分布鲁棒优化（DRO）将标签偏移鲁棒性建模为 min-max 游戏，确保在分布偏移下具有最坏情况性能。
• 设计一种可扩展、稳定的优化算法，适用于 ImageNet 等大规模数据集，避免在对抗性分布下使用朴素梯度估计带来的不稳定性。

提出的方法

• 将标签偏移问题建模为分布鲁棒优化（DRO）目标，最小化在经验训练分布 KL 散度球内所有标签分布的最坏情况期望损失。
• 引入梯度下降-近端镜像上升算法，联合优化模型参数和对手的分布，确保训练的稳定与高效。
• 引入梯度稳定项（加法 epsilon）以防止在单纯形顶点附近更新时出现数值不稳定性。
• 引入损失裁剪机制以控制梯度方差，防止在高对抗性半径下训练时发生发散。
• 采用对偶优化策略，使对手动态调整标签权重以最大化模型损失，从而模拟最坏情况的标签偏移。
• 利用 KL 球的结构，实现对手分布的高效且解析可计算的更新，避免昂贵的子问题求解。

实验结果

研究问题

• RQ1 是否可以训练一个单一分类器，使其对任意标签偏移具有鲁棒性，且无需访问未标注测试数据？
• RQ2 如何有效应用分布鲁棒优化于标签偏移问题，实现稳定且可扩展的训练？
• RQ3 动态对抗性分布更新对模型在易类与难类上的泛化能力有何影响？
• RQ4 损失裁剪阈值和梯度稳定性的超参数如何影响在标签偏移严重程度增加时的模型鲁棒性？
• RQ5 所提出的基于 DRO 的方法是否能降低最坏情况误差，同时保持在易类上的良好性能，避免欠拟合？

主要发现

• AdvShift 显著降低了在 CIFAR-100 和 ImageNet 上训练集和验证集的最坏情况误差，尤其在对抗性标签偏移下表现突出。
• 使用 AdvShift 训练的模型在难类上的上尾误差更低（例如，基线方法误差高达 80%），优于标准训练和基线 DRO 方法。
• 通过梯度稳定和损失裁剪，该算法维持了稳定的训练动态；当这些组件被省略或调优不佳时，性能急剧下降。
• 对手分布从均匀分布演化为集中于少数难分类（例如，权重提高至 2 倍），反映出模型所学习到的难度分布特征。
• 易类的性能在训练初期有所滞后，但最终收敛至优于基线模型的泛化差距，表明其具备鲁棒性且无欠拟合。
• 消融研究证实，损失裁剪和梯度稳定均为关键组件：次优取值会导致性能下降，尤其在对抗性半径增大时更为明显。