[論文レビュー] A Brief Review of Deep Multi-task Learning and Auxiliary Task Learning

Partoo Vafaeikia, Khashayar Namdar+1 more|arXiv (Cornell University)|Jul 2, 2020

Domain Adaptation and Few-Shot Learning参考文献 25被引用数 6

ひとこと要約

この論文は、深層多タスク学習（dMTL）アーキテクチャをレビューし、モデル性能を向上させるために最適な補助タスクを選択する手法を提案する。AUTOSEMと呼ばれる二段階フレームワークを導入し、動的補助タスク選択にマルチアームド・バンディットを、最適なトレーニング混合比の学習にベイズ最適化を用いる。両段階が性能最大化と負の転送の低減に不可欠であることが示された。

ABSTRACT

Multi-task learning (MTL) optimizes several learning tasks simultaneously and leverages their shared information to improve generalization and the prediction of the model for each task. Auxiliary tasks can be added to the main task to ultimately boost the performance. In this paper, we provide a brief review on the recent deep multi-task learning (dMTL) approaches followed by methods on selecting useful auxiliary tasks that can be used in dMTL to improve the performance of the model for the main task.

研究の動機と目的

• 特徴の共有と一般化を向上させる最近の深層多タスク学習（dMTL）アーキテクチャをレビューすること。
• dMTLにおける負の転送の課題に取り組み、主タスクの性能を向上させる有効な補助タスクを同定すること。
• 干渉を最小限に抑えつつ性能向上を最大化するための、体系的で自動化された補助タスクの選択と結合手法を提案すること。
• dMTLフレームワークにおいて、自動的タスク選択と動的混合比学習の組み合わせの有効性を評価すること。

提案手法

• 主タスクに対する相対的な推定有用性に基づき、補助タスクを動的に選択する非定常マルチアームド・バンディット制御器を用いる。
• ガウス過程モデルを用いたベイズ最適化により、トレーニング中に選択された補助タスクの最適混合比を学習する。
• タスク選択と混合比学習を統合したフレームワーク（AUTOSEM）を構築し、性能を同時に最適化する。
• ハード共有とソフト共有を組み合わせ、推論コストを増加させない補助モジュールを用いて共有表現を正則化する。
• 勾配ベースの類似度測定（コサイン類似度）を用いて、有害な補助タスクをトレーニング前にもふるいにかける。
• ゲート付き共有ユニットを用い、タスクの類似度に応じて特徴の交換をスカラ重みで選択的に学習する。

実験結果

リサーチクエスチョン

• RQ1 深層多タスク学習において、性能向上を最大化する補助タスクを自動的に選択する方法は何か？
• RQ2 補助タスクのトレーニング比率を動的に調整することが、モデル性能に与える影響は何か？
• RQ3 タスク選択と混合比最適化を組み合わせた二段階フレームワークは、単一段階または手動アプローチを上回る性能を発揮できるか？
• RQ4 勾配類似度（コサイン類似度）を用いることで、非有害な補助タスクを特定するのにどのように寄与するか？
• RQ5 タスク選択と混合比学習の両方が、性能向上に独立して果たす貢献度はどの程度か？

主な発見

• 自動タスク選択と最適混合比学習を統合したAUTOSEMフレームワークは、片方の段階のみを用いた場合と比較して、顕著にモデル性能を向上させる。
• マルチアームド・バンディットによるタスク選択とベイズ最適化による混合比学習の両方が不可欠な要素であり、いずれかを省略すると性能が低下する。
• 主タスクと補助タスクの勾配間のコサイン類似度を用いることで、負の転送を引き起こすタスクを特定・除外できる。
• 学習可能なスカラ重みを持つゲート付きマルチタスクネットワークは、有益なタスクペア間でのみ特徴共有を許可することで、干渉を効果的に低減する。
• 推論時に削除可能な補助モジュールは、ソフトパラメータ共有を模倣しつつ、計算コストの増加なしに正則化を提供する。
• このフレームワークはドメインに依存せず、コンピュータビジョンやNLPを含むさまざまな機械学習応用に適用可能である。