[論文レビュー] Pareto Multi-Task Learning

Xi Lin, Hui‐Ling Zhen+3 more|arXiv (Cornell University)|Dec 30, 2019

Advanced Multi-Objective Optimization Algorithms被引用数 52

ひとこと要約

Pareto MTL は、複数のサブ問題に分解し、異なるトレードオフの嗜好を持つ複数のサブ問題を作成して、多様なパレート最適解の集合を生成し、さまざまなタスクのトレードオフを表現します。

ABSTRACT

Multi-task learning is a powerful method for solving multiple correlated tasks simultaneously. However, it is often impossible to find one single solution to optimize all the tasks, since different tasks might conflict with each other. Recently, a novel method is proposed to find one single Pareto optimal solution with good trade-off among different tasks by casting multi-task learning as multiobjective optimization. In this paper, we generalize this idea and propose a novel Pareto multi-task learning algorithm (Pareto MTL) to find a set of well-distributed Pareto solutions which can represent different trade-offs among different tasks. The proposed algorithm first formulates a multi-task learning problem as a multiobjective optimization problem, and then decomposes the multiobjective optimization problem into a set of constrained subproblems with different trade-off preferences. By solving these subproblems in parallel, Pareto MTL can find a set of well-representative Pareto optimal solutions with different trade-off among all tasks. Practitioners can easily select their preferred solution from these Pareto solutions, or use different trade-off solutions for different situations. Experimental results confirm that the proposed algorithm can generate well-representative solutions and outperform some state-of-the-art algorithms on many multi-task learning applications.

研究の動機と目的

• タスク間の衝突により、トレードオフを意識したマルチタスク学習の必要性を喚起する。
• 単一の最適解の限界に対処するため、多様なパレート集合を生成する。
• トレードオフ全体にわたってよく表現されたパレート解を取得するために Pareto MTL を提案する。
• さまざまなマルチタスク学習問題における適用性と性能向上を実証する。

提案手法

• MTL を多目的最適化として定式化し、単位嗜好ベクトルの集合を用いて K 個のサブ問題に分解する。
• 目的空間にサブ領域を定義し、各サブ問題が異なるトレードオフを対象とする (Omega_k)。
• スケーラブルな双対定式化を用いた制約付き多目的サブ問題を解くために勾配法を適用する。
• 全パラメータ空間の代わりに、ラグランジュ乗数の観点で縮約された双対問題を解くことにより、スケーラブルな最適化手法を導出する。
• すべてのサブ問題を並列に解くことで、多様なパレート最適解の集合を得る。
• Pareto MTL は動的な重みを持つ適応的線形スカラー化に対応することを示す。

実験結果

リサーチクエスチョン

• RQ1 MTL 問題をどのように分解して、タスク間の多様なトレードオフをカバーできるか？
• RQ2 重みを全て探索することなく、異なる嗜好を表すよく分布したパレート解の集合を得ることができるか？
• RQ3 大規模なモデルやデータセットに適用した場合、Pareto MTL はどれだけスケーラブルか？
• RQ4 解の多様性と性能の点で、Pareto MTL は最先端の MTL アプローチとどう比較されるか？

主な発見

• Pareto MTL は、異なるタスクのトレードオフを表すよく分布したパレート最適解の集合を成功裏に生成する。
• 本手法は複数の適用例でいくつかの最先端 MTL アルゴリズムを上回る。
• 極端な嗜好を持つサブ問題は、対応するタスクで最高の性能をもたらす。
• MultiMNIST、MultiFashionMNIST、そして自動運転の位置推定に関する実験は、タスク全体で堅牢な利得を示す。
• サブ問題は並列に解くことができ、深層モデルのスケーラブルな最適化を可能にする。
• Pareto MTL は、双対制約付き問題を解くことによって決定される重みを持つ適応的線形スカラー化として見ることができる。