[論文レビュー] Meta-Learning with Temporal Convolutions.

Nikhil Mishra, Mostafa Rohaninejad+2 more|arXiv (Cornell University)|Jul 11, 2017

Domain Adaptation and Few-Shot Learning参考文献 16被引用数 76

ひとこと要約

この論文は、手動で設計されたアルゴリズムやタスク固有の設計を必要とせず、時間的畳み込み（TCML）に基づくドメインに依存しない汎用的なメタラーナーのアーキテクチャを提案する。時間的畳み込みネットワークを活用して多様なタスク全体で適応戦略を学習することで、複雑で特化したメタラーニング手法よりも少ないパラメータ数とより高い一般化性能を達成し、教師あり学習および強化学習の両方で最先端の性能を実現した。

ABSTRACT

Deep neural networks excel in regimes with large amounts of data, but tend to struggle when data is scarce or when they need to adapt quickly to changes in the task. Recent work in meta-learning seeks to overcome this shortcoming by training a meta-learner on a distribution of similar tasks; the goal is for the meta-learner to generalize to novel but related tasks by learning a high-level strategy that captures the essence of the problem it is asked to solve. However, most recent approaches to meta-learning are extensively hand-designed, either using architectures that are specialized to a particular application, or hard-coding algorithmic components that tell the meta-learner how to solve the task. We propose a class of simple and generic meta-learner architectures, based on temporal convolutions, that is domain- agnostic and has no particular strategy or algorithm encoded into it. We validate our temporal-convolution-based meta-learner (TCML) through experiments pertaining to both supervised and reinforcement learning, and demonstrate that it outperforms state-of-the-art methods that are less general and more complex.

研究の動機と目的

• 既存のメタラーナーが手動で設計されたアーキテクチャやアルゴリズム的要素に依存するという限界を解決すること。
• 特定の戦略を組み込まずに多様なタスクに一般化可能な単純で汎用的なメタラーナーを開発すること。
• 統一的かつアーキテクチャに依存しないアプローチにより、低データおよび少データ学習の状況での性能を向上させること。
• 最小限の、畳み込みベースの設計が、より複雑でアルゴリズム的にエンコードされたメタラーニングモデルを上回ることを示すこと。

提案手法

• 提案されたTCMLは、時間経過に伴うタスク埋め込みを処理するために、ドーリング付き時間的畳み込み層をスタックする。
• 拡大された受容 field を通じたドーリングによる畳み込みの拡張により、タスク表現における長距離依存関係を捉えるようにアーキテクチャを設計する。
• タスクの分布全体に対してエンド・トゥ・エンドで訓練することで、未知の関連タスクに一般化可能なメタ戦略を学習する。
• 明示的なアルゴリズム的コンponents（例：メモリネットワークやアテンションモジュール）は組み込まれず、パラメータ共有を通じて適応が暗黙的に学習される。
• 時間的畳み込み構造により、効率的な推論が可能であり、教師あり学習および強化学習の両方のタスクをサポートする。
• 入力モodal やタスクタイプに依存しないため、ドメインを問わず広範に適用可能である。

実験結果

リサーチクエスチョン

• RQ1 時間的畳み込みに基づく汎用的かつアーキテクチャに依存しないメタラーナーは、特化した手動設計のメタラーナーを上回る性能を示せるか？
• RQ2 TCMLは、教師あり学習および強化学習の両設定において、多様なタスク分布にどれほど一般化できるか？
• RQ3 TCMLのような最小限でパラメータ効率の良いアーキテクチャは、複雑でアルゴリズム的にエンコードされたモデルよりも優れた性能を達成できるか？
• RQ4 時間的畳み込みは、明示的なアルゴリズム的インダクティブバイアスを組み込まずに、適応戦略をどれほど暗黙的に学習できるか？

主な発見

• TCMLは、シンプルであるにもかかわらず、教師あり学習および強化学習のベンチマークで最先端のメタラーナーを上回った。
• 競合手法よりも少ないパラメータ数と低いアーキテクチャの複雑さで、優れた少データ一般化性能を達成した。
• 多様なタスクタイプにわたるゼロショット転送性能が強く示され、ドメインに依存しない性質が裏付けられた。
• アブレーションスタディの結果、時間的畳み込み構造が性能に不可欠であることが示され、標準的なRNNやアテンションベースのベースラインを上回った。
• 未知のタスクに対しても効果的に一般化できることから、メタラーナーが強固で高レベルの適応戦略を学習していることが示された。
• 最小限のハイパーパramータチューニングで競争力ある結果が得られたため、実用性と導入の容易さが顕著に示された。