[论文解读] A Closer Look at Loss Weighting in Multi-Task Learning

Baijiong Lin, Feiyang Ye+1 more|arXiv (Cornell University)|Nov 20, 2021

Domain Adaptation and Few-Shot Learning参考文献 42被引用 15

一句话总结

本文提出随机损失加权（RLW），一种简单而有效的多任务学习策略，通过从分布中随机采样损失权重，在性能上达到与最先进方法相当的效果。RLW通过增加逃离局部极小值的可能性来提升泛化能力，仅需在现有实现中增加一行代码。

ABSTRACT

Multi-Task Learning (MTL) has achieved great success in various fields, however, how to balance different tasks to avoid negative effects is still a key problem. To achieve the task balancing, there exist many works to balance task losses or gradients. In this paper, we unify eight representative task balancing methods from the perspective of loss weighting and provide a consistent experimental comparison. Moreover, we surprisingly find that training a MTL model with random weights sampled from a distribution can achieve comparable performance over state-of-the-art baselines. Based on this finding, we propose a simple yet effective weighting strategy called Random Loss Weighting (RLW), which can be implemented in only one additional line of code over existing works. Theoretically, we analyze the convergence of RLW and reveal that RLW has a higher probability to escape local minima than existing models with fixed task weights, resulting in a better generalization ability. Empirically, we extensively evaluate the proposed RLW method on six image datasets and four multilingual tasks from the XTREME benchmark to show the effectiveness of the proposed RLW strategy when compared with state-of-the-art strategies.

研究动机与目标

• 为解决多任务学习（MTL）中平衡多个任务的挑战，以防止负迁移。
• 通过损失加权的视角，统一并比较八种代表性任务平衡方法。
• 探究随机损失加权是否能与学习或固定加权策略相比实现具有竞争力的性能。
• 从理论和实证两方面验证随机损失加权的泛化优势。

提出的方法

• 作者将八种现有任务平衡方法统一在一个共同的损失加权框架下，以实现系统的比较。
• 他们提出随机损失加权（RLW），在训练过程中从预定义分布中均匀采样损失权重。
• RLW 可在现有 MTL 框架中仅通过一行额外代码实现，具有高度实用性。
• 理论分析表明，与固定权重模型相比，RLW 具有更高的概率逃离局部极小值。
• 该方法在六个图像数据集和来自 XTREME 基准的四个多语言任务上进行了评估。

实验结果

研究问题

• RQ1 在多任务学习中，随机采样损失权重是否能实现与最先进固定或学习加权策略相当的性能？
• RQ2 随机损失加权如何影响模型逃离不良局部极小值的能力？
• RQ3 随机损失加权所观察到的泛化能力提升的理论依据是什么？
• RQ4 RLW 是否在多样化的视觉和 NLP 基准上保持强大的性能？

主要发现

• 随机损失加权（RLW）在六个图像数据集和来自 XTREME 基准的四个多语言任务上，实现了与最先进基线相当的性能。
• 理论分析表明，与使用固定任务权重的模型相比，RLW 提高了逃离局部极小值的概率。
• 由于权重采样具有随机性，RLW 通过增强训练过程中的探索能力，展现出更好的泛化能力。
• 该方法仅需增加一行代码即可实现，具有高度实用性，且易于在现有 MTL 框架中采用。