[論文レビュー] Understanding and Improving Information Transfer in Multi-Task Learning

Sen Wu, Hongyang Zhang+1 more|arXiv (Cornell University)|May 2, 2020

Domain Adaptation and Few-Shot Learning参考文献 51被引用数 47

ひとこと要約

本論文は、タスク固有ヘッドを備えた共有特徴量を用いるマルチタスク学習（MTL）アーキテクチャを分析し、タスク間のデータ整合性が転送にとって決定的に影響することを示し、共分散整合とSVDベースの重み付けを提案してMTLと転移学習の性能を向上させる。

ABSTRACT

We investigate multi-task learning approaches that use a shared feature representation for all tasks. To better understand the transfer of task information, we study an architecture with a shared module for all tasks and a separate output module for each task. We study the theory of this setting on linear and ReLU-activated models. Our key observation is that whether or not tasks' data are well-aligned can significantly affect the performance of multi-task learning. We show that misalignment between task data can cause negative transfer (or hurt performance) and provide sufficient conditions for positive transfer. Inspired by the theoretical insights, we show that aligning tasks' embedding layers leads to performance gains for multi-task training and transfer learning on the GLUE benchmark and sentiment analysis tasks; for example, we obtain a 2.35% GLUE score average improvement on 5 GLUE tasks over BERT-LARGE using our alignment method. We also design an SVD-based task reweighting scheme and show that it improves the robustness of multi-task training on a multi-label image dataset.

研究の動機と目的

• 共有表現を用いたマルチタスク学習が個々のタスクに有益か害を及ぼすかを理解する。
• モデル容量、タスク共分散、最適化がタスク間の転送にどのように影響するかを特徴づける。
• データ整合性を考慮した場合に実用的な方法を開発してMTLの有効性と頑健性を向上させる。
• 正の転送の理論的条件と整合および再重み付けの実践的アルゴリズムを提供する。

提案手法

• 共有モジュール B（共有モジュール）と各タスク A_i（出力モジュール）を組み合わせたアーキテクチャを、損失関数が sum_i L(g(X_i B) A_i, y_i) となる形で検討する。
• データサイズの違いを考慮して損失に各タスクの重み alpha_i を導入する。
• 線形およびReLU活性化モデルを対象に、3つの成分（共有容量 r、タスク共分散 X_i^T X_i、各タスクの重み alpha_i）に焦点を当てた理論を展開する。
• タスク共分散と共分散類似度スコアを定義してタスク間の整合を定量化する。
• Algorithm 1 covariance alignment を提案し、学習中にタスク共分散を揃えるために前埋め込みの整合行列 R_i を導入する。
• Algorithm 2 のSVDベースのタスク再重み付け方式を提案し、特にラベルノイズ下で頑健性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 共有表現を用いたマルチタスク学習は、いつタスク間に正の転送を生み、いつ負の転送を生むのか？
• RQ2 共有容量、タスク共分散、各タスクの重みが線形およびReLU設定での転送性能にどう影響するか？
• RQ3 タスク埋め込みを整列させ、タスクを再重み付けする実用的な方法を設計してMTLと転移の頑健性を向上させることができるか？
• RQ4 整列と再重み付けの手法は、GLUEや感情分析データセットなどのベンチマークで改善につながるか？
• RQ5 ラベルノイズおよび転移学習シナリオにおいてこれらの手法はどれほど頑健か？

主な発見

• タスク埋め込み層の共分散を整合させるとGLUEで性能向上をもたらす（BERT_LARGEで5タスクの平均GLUEスコア2.35%）。
• 共分散整合は感情分析タスクの転移学習の精度も最大で2.5%向上させる。
• SVDベースのタスク再重み付け手法はChestX-ray14の多ラベルデータセットで平均0.4% AUCの頑健性を向上させる。
• 転送を有効にするには共有モジュールの容量は個別タスクの容量の和より小さくあるべきであり、容量が大きすぎると転送は生じない。
• 理論はタスク共分散とサンプルサイズに依存する正の転送の十分条件を提供し、共分散類似度の指標を提案している。
• 実証的なアブレーションにより、共分散整合がCNN/MLPおよびLSTMのベースライン上で性能を向上させることが示されている。