[論文レビュー] Transforming task representations to allow deep learning models to perform novel tasks

Andrew K. Lampinen, James L. McClelland|arXiv (Cornell University)|May 8, 2020

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本論文では、学習済みのタスク表現を高次元のメタタスクに変換することで、深層学習モデルが新しいタスクをゼロショットで実行できるメタマッピングフレームワークを提案する。過去のタスクと新しいタスクの関係を活用することで、新しいタスクに特化したデータを一切使用せずに80–90％の性能を達成し、その後の学習を著しく加速させ、誤差を低減する。

ABSTRACT

An important aspect of intelligence is the ability to adapt to a novel task without any direct experience (zero-shot), based on its relationship to previous tasks. Humans can exhibit this cognitive flexibility. By contrast, deep-learning models that achieve superhuman performance in specific tasks generally fail to adapt to even slight task alterations. To address this, we propose a general computational framework for adapting to novel tasks based on their relationship to prior tasks. We begin by learning vector representations of tasks. To adapt to new tasks, we propose meta-mappings, higher-order tasks that transform basic task representations. We demonstrate this framework across a wide variety of tasks and computational paradigms, ranging from regression to image classification and reinforcement learning. We compare to both human adaptability, and language-based approaches to zero-shot learning. Across these domains, meta-mapping is successful, often achieving 80-90% performance, without any data, on a novel task that directly contradicts its prior experience. We further show that using meta-mapping as a starting point can dramatically accelerate later learning on a new task, and reduce learning time and cumulative error substantially. Our results provide insight into a possible computational basis of intelligent adaptability, and offer a possible framework for modeling cognitive flexibility and building more flexible artificial intelligence.

研究の動機と目的

• 直接経験のない新しいタスクに適応できない深層学習モデルの限界を克服し、人間のような認知的柔軟性を再現すること。
• 多様なタスクや学習パラダイムにわたるゼロショット適応を可能にする汎用的な計算フレームワークの開発。
• タスク表現の高次元メタマッピングが、過去の経験と矛盾するタスクに対しても効果的な一般化を可能にするかの検討。
• 微調整を新しいタスクで行う際、フレームワークが学習をどれほど加速させ、累積誤差をどれほど低減できるかの評価。
• 人工知能システムにおける知的な適応性の計算的基盤の提供。

提案手法

• タスクの意味的・構造的性質をエンコードするためのタスクの学習ベクトル表現の学習。
• 既知のタスクの表現から未知のタスクの表現へと写像する高次元変換としてのメタマッピングの定義。
• 未知のタスクからのデータを一切必要とせず、新しいタスクの予測を生成するためにメタマッピングを適用。
• 回帰、画像分類、強化学習のタスクにおいてフレームワークの広範な適用性を確認するための評価。
• 微調整の初期化としてメタマッピングを活用し、その後の学習における収束速度の向上と誤差の低減を実現。
• 人間のゼロショット一般化と言語ベースのゼロショット学習アプローチとを比較。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、過去のタスクとの関係を活用することで、新しいタスクにまったくデータなしに一般化できるか？
• RQ2 直接過去の経験と矛盾するタスクに対しても、メタマッピングはどれほどゼロショット性能を達成できるか？
• RQ3 初期値としてメタマッピングを使用することで、学習速度がどの程度向上し、誤差がどの程度低減されるか？
• RQ4 フレームワークの性能は、人間の適応性や言語ベースのゼロショット手法と比べてどうか？
• RQ5 このアプローチは、人工知能における認知的柔軟性の一般的な計算的メカニズムとして機能できるか？

主な発見

• メタマッピングフレームワークは、タスク固有のデータを一切使用せずに、新しいタスクで80–90％の性能を達成し、強固なゼロショット一般化を示した。
• 本手法は、過去の経験と直接矛盾するタスクに対しても適応を可能にし、強力な関係的推論能力を示した。
• メタマッピングを初期化として使用することで、新しいタスクにおける学習が著しく加速し、トレーニング時間と累積誤差が低減した。
• フレームワークは回帰、画像分類、強化学習を含む多様な分野に一般化可能である。
• 人間のゼロショット適応と同等の性能を示し、言語ベースのゼロショット学習アプローチを上回るか同等の性能を達成した。
• 結果から、メタマッピングが人工知能における知的な適応性をモデル化するための実現可能な計算的基盤であることが示唆された。