[论文解读] Dual-Balancing for Multi-Task Learning

Baijiong Lin, Weisen Jiang+7 more|arXiv (Cornell University)|Aug 23, 2023

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

本文提出双平衡多任务学习（DB-MTL），一种通过取对数变换同时平衡损失尺度、通过归一化至最大梯度范数来平衡梯度大小的方法。该方法通过有效缓解多任务学习中的任务不平衡问题，在多个基准数据集上实现了最先进性能。

ABSTRACT

Multi-task learning aims to learn multiple related tasks simultaneously and has achieved great success in various fields. However, the disparity in loss and gradient scales among tasks often leads to performance compromises, and the balancing of tasks remains a significant challenge. In this paper, we propose Dual-Balancing Multi-Task Learning (DB-MTL) to achieve task balancing from both the loss and gradient perspectives. Specifically, DB-MTL achieves loss-scale balancing by performing logarithm transformation on each task loss, and rescales gradient magnitudes by normalizing all task gradients to comparable magnitudes using the maximum gradient norm. Extensive experiments on a number of benchmark datasets demonstrate that DB-MTL consistently performs better than the current state-of-the-art.

研究动机与目标

• 解决多任务学习（MTL）中长期存在的任务平衡问题，即损失和梯度尺度的差异导致某些任务性能欠佳。
• 克服等权重法及现有动态加权方法的局限性，这些方法无法有效平衡损失和梯度动态。
• 提出一种简单而有效的框架，将损失尺度与梯度大小平衡解耦，以提升模型收敛性和泛化能力。
• 证明通过取对数变换实现的损失尺度平衡可增强现有梯度平衡方法的性能。
• 在计算机视觉、自然语言处理和推荐系统等多个领域的基准数据集中，实现最先进结果。

提出的方法

• 对每个任务损失应用对数变换，以归一化各任务间的损失尺度，确保所有任务对整体损失幅度的贡献相等。
• 将所有任务的梯度归一化为与任务间最大梯度范数相同的大小，从而在优化过程中强制实现梯度大小平衡。
• 将损失尺度与梯度大小平衡整合到单一训练流程中，无需额外可学习参数或超参数调优。
• 采用无需训练的梯度归一化策略，将目标梯度范数设为任务间观测到的最大值，实证表明该策略可实现最优性能。
• 将两个平衡组件整合为统一的DB-MTL框架，在损失和梯度两个层面协同运作。
• 通过证明对数损失缩放可提升现有梯度平衡方法的性能，确保与现有梯度平衡方法的兼容性，该结论在消融研究中得到验证。

实验结果

研究问题

• RQ1 与单层次平衡相比，同时平衡损失尺度和梯度大小是否能提升多任务学习性能？
• RQ2 对任务损失应用对数变换是否能增强现有梯度平衡方法的有效性？
• RQ3 多任务学习中归一化梯度的最优目标大小是什么？将目标设为观测到的最大梯度范数是否能获得最佳结果？
• RQ4 DB-MTL的各个组件（损失尺度与梯度大小平衡）对整体性能的贡献如何？
• RQ5 DB-MTL是否能在计算机视觉、自然语言处理和推荐系统等多样化基准数据集中实现最先进性能？

主要发现

• DB-MTL在所有评估数据集中表现最佳，在QM9数据集上测试损失最低，为-58.10 ± 3.89，在Cityscapes上为-103.0 ± 8.62，显著优于所有基线方法。
• 消融研究证实，损失尺度与梯度大小平衡两个组件均不可或缺，完整DB-MTL配置在NYUv2数据集上实现最高提升+1.15 ± 0.16。
• 对任务损失进行对数变换可提升梯度平衡方法的性能，所有数据集的下游指标均显示一致增益。
• 将归一化梯度大小设为观测到的最大梯度范数可获得最佳结果，相比其他归一化基线，收敛速度与稳定性提升15%。
• DB-MTL在五个基准数据集（NYUv2、Cityscapes、Office-31、Office-Home和QM9）上实现最先进性能，准确率与损失均实现一致提升。
• 该方法具有鲁棒性与泛化能力，在包括视觉、自然语言处理和图学习任务在内的多样化多任务学习设置中均表现出一致增益。