[論文レビュー] Controllable Pareto Multi-Task Learning

Xi Lin, Zhiyuan Yang+2 more|arXiv (Cornell University)|Oct 13, 2020

Machine Learning and Data Classification参考文献 54被引用数 22

ひとこと要約

本稿では、1つのハイパーネットワークベースのモデルを用いて、複数のタスク間のリアルタイムなトレードオフ制御を可能にする制御可能でパレート最適なマルチタスク学習フレームワークを提案する。好みのベクトルに条件付けられたモデルパラメータにより、全パレートフロントをエンドツーエンドで学習し、複数のモデルを訓練・保存する必要がなくなる。多様なMTL応用分野において、強力なベンチマークデータセットでの実験結果を示しながら、効率的かつ動的なパフォーマンス調整を実現する。

ABSTRACT

A multi-task learning (MTL) system aims at solving multiple related tasks at the same time. With a fixed model capacity, the tasks would be conflicted with each other, and the system usually has to make a trade-off among learning all of them together. For many real-world applications where the trade-off has to be made online, multiple models with different preferences over tasks have to be trained and stored. This work proposes a novel controllable Pareto multi-task learning framework, to enable the system to make real-time trade-off control among different tasks with a single model. To be specific, we formulate the MTL as a preference-conditioned multiobjective optimization problem, with a parametric mapping from preferences to the corresponding trade-off solutions. A single hypernetwork-based multi-task neural network is built to learn all tasks with different trade-off preferences among them, where the hypernetwork generates the model parameters conditioned on the preference. For inference, MTL practitioners can easily control the model performance based on different trade-off preferences in real-time. Experiments on different applications demonstrate that the proposed model is efficient for solving various MTL problems.

研究の動機と目的

• 実世界の応用において、相互に矛盾するタスクを有するマルチタスク学習（MTL）における動的トレードオフの課題に対処すること。
• 異なるトレードオフの好みに対応するための複数のモデルの訓練と保存を回避し、コストが高く非効率である問題を解消すること。
• ユーザーが指定した好みに基づいて多様なパレート最適解を生成できる統合的かつエンドツーエンドで学習可能なフレームワークを開発すること。
• 1つの学習済みモデルを用いて、推論時におけるタスクパフォーマンスのトレードオフをリアルタイムで制御すること。

提案手法

• 好みがパレートフロント上の特定のトレードオフ解に対応するように、MTLを好み条件付きの多目的最適化問題として定式化する。
• 好みのベクトル入力をもとに、タスク固有のモデルパラメータを生成するハイパーネットワークベースのMTLアーキテクチャを設計する。
• 好みからトレードオフ解へのパラメトリックマッピングを用いることで、パレートフロント全体にわたる連続的かつ制御可能な補間を可能にする。
• 共有表現とハイパーネットによるタスク固有ヘッドを生成する仕組みを用いて、1つのモデルで全システムをエンドツーエンドに訓練する。
• タスク固有パラメータと共有パラメータを効率的に表現するため、好み埋め込みとチャンク埋め込みを統合する。
• 標準的なディープラーニングの訓練手順（例：Adam、交差エントロピー、L1損失）を用いてモデルを最適化し、タスク間でバランスの取れたハイパーパrameterを設定する。

実験結果

リサーチクエスチョン

• RQ1 1つのMTLモデルが、複数のタスクにおける全パレートフロントのトレードオフ解を学習できるか？
• RQ2 好み条件付きのハイパーネットワークが、推論時におけるタスクパフォーマンスの動的制御をリアルタイムで可能にするか？
• RQ3 異なるトレードオフに対応する複数の別個モデルを訓練する従来手法と比較して、本手法は効率性とパフォーマンスで優れているか？
• RQ4 本手法は、多くのタスクや複雑なアーキテクチャを有する大規模MTL問題へスケーリング可能か？

主な発見

• 提案手法は、マルチタスク学習問題における全パレートフロントを効果的に学習し、1つのモデルでリアルタイムなトレードオフ制御を可能にした。
• 20タスクを含むMultiMNIST、CityScapes、NYUv2、CIFAR-100における実験では、多様なMTLタスクにおいて一貫したパフォーマンスを示した。
• ベースラインMTLモデルと比較して、同等または優れたパフォーマンスを達成しながら、複数モデルの保存を不要にした。
• 本手法は大規模MTL問題へも良好にスケーリングでき、20タスクを含む問題においても、強固さと一般化性能を示した。
• 推論時における好みベースの制御により、再訓練なしに実務家がパフォーマンスのトレードオフを動的に調整できるようになった。