[論文レビュー] Meta-Learning Multi-task Communication

Pengfei Liu, Xuanjing Huang|arXiv (Cornell University)|Oct 23, 2018

Domain Adaptation and Few-Shot Learning参考文献 25被引用数 7

ひとこと要約

本稿では、メタラーニングを用いたマルチタスク通信（Meta-Learning Multi-task Communication）というフレームワークを提案する。このフレームワークは、タスク間で隠れ表現と勾配を交換することで、共有空間における特徴のエンタングルメントを低減し、マルチタスク学習の性能を向上させる。勾配伝達を導入することにより、パラメータの一貫性と共有表現の純度が向上し、自然言語処理およびビジョンのベンチマークにおいて、タスク内およびタスク外の設定で優れた性能を達成する。

ABSTRACT

In this paper, we describe a general framework: Parameters Read-Write Networks (PRaWNs) to systematically analyze current neural models for multi-task learning, in which we find that existing models expect to disentangle features into different spaces while features learned in practice are still entangled in shared space, leaving potential hazards for other training or unseen tasks. We propose to alleviate this problem by incorporating an inductive bias into the process of multi-task learning, that each task can keep informed of not only the knowledge stored in other tasks but the way how other tasks maintain their knowledge. In practice, we achieve above inductive bias by allowing different tasks to communicate by passing both hidden variables and gradients explicitly. Experimentally, we evaluate proposed methods on three groups of tasks and two types of settings ( extsc{in-task} and extsc{out-of-task}). Quantitative and qualitative results show their effectiveness.

研究の動機と目的

• 理論的期待とは裏腹に、共有特徴がタスク固有の特徴とエンタングルされたまま残る『ごまかし的共有』問題に対処すること。
• 既存のマルチタスク学習モデルを統一的かつ分析的に扱える一般化フレームワーク、パラメータ読み書きネットワーク（Parameters Read-Write Networks, PRaWNs）を構築すること。
• タスクが共有知識を学ぶだけでなく、他のタスクが知識をどのように維持しているかを明示的な勾配交換を通じて学ぶことのできるインダクティブバイアスを導入すること。
• タスク間で一貫したパラメータ更新を強制することで、タスク内およびタスク外の設定においてモデルの汎化性能とロバスト性を向上させること。

提案手法

• 既存のマルチタスク学習アーキテクチャをモデル化・分析するための包括的フレームワークとして、パラメータ読み書きネットワーク（PRaWNs）を提案する。
• 順伝播および逆伝播の両過程でタスク間の明示的な勾配伝達を導入し、パラメータ更新方向に関するタスク間の相互理解を可能にする。
• 2種類の通信メカニズムを採用：ペアワイズ勾配伝達とリストワイズ勾配伝達。後者はタスクの類似度を組み込んで、より高い一貫性を実現する。
• 最適化過程で一貫性制約を適用し、プライベート特徴が共有空間に汚染されないよう防止する。
• PCAを用いてパラメータの進化を可視化し、提案手法では共有パラメータが対立するプライベート更新をよりバランスの取れた方向に統合していることを示す。
• 共有層におけるニューロン活性化分析に、関連性スコア $ q $ を用い、どの語が共有層で有用な特徴として特定されたかを評価する。

実験結果

リサーチクエスチョン

• RQ1 タスク間での明示的な勾配交換は、マルチタスク学習における共有表現の純度と一貫性にどのように影響するか？
• RQ2 勾配伝達によって、共有パラメータ空間におけるタスク固有特徴のエンタングルメントはどの程度低減できるか？
• RQ3 提案手法は、標準的なマルチタスク学習ベースラインと比較して、未学習のタスク（タスク外設定）への汎化性能を向上させられるか？
• RQ4 リストワイズ勾配通信（タスク類似度を組み込む）とペアワイズ勾配通信の違いが、モデル性能および表現品質に与える影響は何か？
• RQ5 共有層におけるニューロンレベルの活性化パターンから、特徴共有と分離に関するどのような知見が得られるか？

主な発見

• 提案手法であるPGP-SRは、プライベート勾配方向を統合することで、共有空間におけるパラメータ更新の一貫性を高め、タスク固有特徴による汚染を低減する。
• パラメータの進化可視化において、PGP-SRの共有パラメータは、対照的に一つの支配的方角に従うSRベースラインとは異なり、対立するプライベート更新の間でバランスの取れた経路をたどる。
• 共有層の分析において、LGP-SRは共通語彙の交差部分で「excellent」や「doesnt」のような高品質な共有特徴を正しく特定するが、SRベースラインは「Brosnan」や「sauce」のようなタスク固有語を誤って共有空間に割り当てる。
• $ \overline{\bigcap_{i}^{5}V_{i}} $ の語彙外語に対しては、LGP-SRが共有意味をよりよく保持しており、「dissatisfied」や「overlong」を関連する特徴として正しく特定する。一方、SRは多くのタスク固有語を誤って共有とみなす。
• 定量的評価では、3つのマルチタスク学習グループと2つの設定（タスク内およびタスク外）において、勾配ベース通信の有効性が確認された。
• 定性的分析から、提案手法では共有層のニューロンが、共有言語的パターンをより選択的かつ意味的に一貫性を持って特定していることが明らかになった。