[论文解读] Pareto Multi-Task Learning

Xi Lin, Hui‐Ling Zhen+3 more|arXiv (Cornell University)|Dec 30, 2019

Advanced Multi-Objective Optimization Algorithms被引用 52

一句话总结

Pareto MTL 将多任务学习问题分解为具有不同权衡偏好的多个子问题，生成多样化的 Pareto 最优解集合，代表不同的任务权衡。

ABSTRACT

Multi-task learning is a powerful method for solving multiple correlated tasks simultaneously. However, it is often impossible to find one single solution to optimize all the tasks, since different tasks might conflict with each other. Recently, a novel method is proposed to find one single Pareto optimal solution with good trade-off among different tasks by casting multi-task learning as multiobjective optimization. In this paper, we generalize this idea and propose a novel Pareto multi-task learning algorithm (Pareto MTL) to find a set of well-distributed Pareto solutions which can represent different trade-offs among different tasks. The proposed algorithm first formulates a multi-task learning problem as a multiobjective optimization problem, and then decomposes the multiobjective optimization problem into a set of constrained subproblems with different trade-off preferences. By solving these subproblems in parallel, Pareto MTL can find a set of well-representative Pareto optimal solutions with different trade-off among all tasks. Practitioners can easily select their preferred solution from these Pareto solutions, or use different trade-off solutions for different situations. Experimental results confirm that the proposed algorithm can generate well-representative solutions and outperform some state-of-the-art algorithms on many multi-task learning applications.

研究动机与目标

• 由于任务之间的冲突，动机需要引入考虑权衡的多任务学习。
• 通过生成一个多样化的 Pareto 集合来解决单一最优解的局限性。
• 提出 Pareto MTL，以在权衡之间获得具有良好代表性的 Pareto 解。
• 在各种多任务学习问题上展示适用性和性能提升。

提出的方法

• 将MTL表述为多目标优化，并使用一组单位偏好向量将其分解为K个子问题。
• 在目标空间中定义子区域，使每个子问题针对不同的权衡（Omega_k）。
• 应用基于梯度的方法来求解带约束的多目标子问题，具有可扩展的对偶形式。
• 通过求解较简的对偶问题（就拉格朗日乘子而言），而非完整参数空间，推导出一种可扩展的优化方法。
• 将所有子问题并行求解，以获得多样化的 Pareto 最优解集合。
• 显示 Pareto MTL 对应于具有动态权重的自适应线性标量化。

实验结果

研究问题

• RQ1 如何将 MTL 问题分解为子问题，以覆盖任务之间的多样化权衡？
• RQ2 在不通过穷举权重搜索的情况下，是否可以获得代表不同偏好的良好分布的 Pareto 解集？
• RQ3 当应用于大型模型和数据集时，Pareto MTL 的可扩展性如何？
• RQ4 相较于 state-of-the-art MTL 方法，在解的多样性和性能方面，Pareto MTL 有何不同？

主要发现

• Pareto MTL 成功生成了一组良好分布的 Pareto 最优解，代表不同的任务权衡。
• 该方法在多个应用上优于一些最先进的 MTL 算法。
• 极端偏好子问题在相应任务上获得最佳性能。
• 在 MultiMNIST、MultiFashionMNIST 以及自动驾驶定位上的实验显示对各任务有鲁棒提升。
• 子问题可以并行求解，实现对深度模型的可扩展优化。
• Pareto MTL 可以被视为一种自适应线性标量化，其权重通过求解对偶约束问题来确定。