[論文レビュー] Fast Context Adaptation via Meta-Learning

Luisa Zintgraf, Kyriacos Shiarlis+3 more|arXiv (Cornell University)|Oct 8, 2018

Machine Learning and Data Classification被引用数 176

ひとこと要約

CAVIAは、モデルパラメータをタスク固有のコンテキストパラメータと共有のメタ学習パラメータに分割することでMAMLを拡張し、テスト時にはコンテキストのみを更新して、回帰・分類・強化学習全体で解釈可能なタスク埋め込みを実現する高速で頑健な適応を達成する。

ABSTRACT

We propose CAVIA for meta-learning, a simple extension to MAML that is less prone to meta-overfitting, easier to parallelise, and more interpretable. CAVIA partitions the model parameters into two parts: context parameters that serve as additional input to the model and are adapted on individual tasks, and shared parameters that are meta-trained and shared across tasks. At test time, only the context parameters are updated, leading to a low-dimensional task representation. We show empirically that CAVIA outperforms MAML for regression, classification, and reinforcement learning. Our experiments also highlight weaknesses in current benchmarks, in that the amount of adaptation needed in some cases is small.

研究の動機と目的

• メタ学習における高速な適応を進化させ、メタ過剰適合を減らし、並列性を向上させる。
• 他のパラメータをタスク間で共有しつつ、タスクごとに適応するコンテキストパラメータを導入する。
• コンテキストパラメータが低次元で解釈可能なタスク埋め込みを生み出すことを示す。
• 回帰、分類、強化学習タスクでCAVIAがMAMLより高い性能を示すことを示す。

提案手法

• モデルパラメータをコンテキストパラメータphiと共有パラメータthetaに分割する。
• 内部ループの更新は各タスクに対してphiのみを調整し、タスク損失に対する勾配ステップを用いる。
• 外部ループの更新は、内部ループのphi更新を通じたバックプロパゲーションによりthetaを調整する。
• コンテキストパラメータはゼロに初期化され、ネットワークへ条件付けされる（例：入力拡張や FiLM を介して）。
• メタ学習は、タスク間の内側ループ適応の後に良い性能を発揮するようthetaを最適化する。
• テスト時には新しいタスクへ適応するためにphiのみ更新され、thetaは固定のまま。

実験結果

リサーチクエスチョン

• RQ1 各タスクについて小さなコンテキストベクトルのみを更新することで、ドメインを超えてMAMLの性能と同等またはそれを上回ることができるか。
• RQ2 コンテキストパラメータは、タスク間の潜在構造を捉える意味のあるタスク特有の埋め込みを学習するか。
• RQ3 CAVIAは内部ループ学習率の範囲に対して頑健で、過学習なしにより大きなネットワークへ拡張可能か。
• RQ4 実践的には、CAVIAの並列化とメモリ使用量はMAMLとどう比較されるか。

主な発見

• 回帰、分類、強化学習のベンチマークでCAVIAはMAMLを上回る。
• 少数のコンテキストパラメータ（2–50個）の適応で十分であり、内部ループの過学習なしにより大きなネットワークを使用できる。
• コンテキストパラメータはタスクの意味ある埋め込みを学習し、タスク間の補間を可能にする。
• 内部ループの学習率の選択に頑健で、ネットワークサイズを増やすとMAMLより拡張性が高い。