[論文レビュー] Meta-Learning and Universality: Deep Representations and Gradient Descent can Approximate any Learning Algorithm

Chelsea Finn, Sergey Levine|arXiv (Cornell University)|Oct 31, 2017

Domain Adaptation and Few-Shot Learning参考文献 17被引用数 96

ひとこと要約

この論文は、標準的な勾配降下法で更新された深い表現（MAML のように） があらゆる学習アルゴリズムを普遍的に近似できることを証明し、勾配ベースのメタ学習が実験で再帰的メタ学習器より一般化性能が高いことを示している。

ABSTRACT

Learning to learn is a powerful paradigm for enabling models to learn from data more effectively and efficiently. A popular approach to meta-learning is to train a recurrent model to read in a training dataset as input and output the parameters of a learned model, or output predictions for new test inputs. Alternatively, a more recent approach to meta-learning aims to acquire deep representations that can be effectively fine-tuned, via standard gradient descent, to new tasks. In this paper, we consider the meta-learning problem from the perspective of universality, formalizing the notion of learning algorithm approximation and comparing the expressive power of the aforementioned recurrent models to the more recent approaches that embed gradient descent into the meta-learner. In particular, we seek to answer the following question: does deep representation combined with standard gradient descent have sufficient capacity to approximate any learning algorithm? We find that this is indeed true, and further find, in our experiments, that gradient-based meta-learning consistently leads to learning strategies that generalize more widely compared to those represented by recurrent models.

研究の動機と目的

• メタ学習における普遍性を通じた学習アルゴリズム近似の形式化。
• 勾配ベースのメタ学習（MAML）の表現力を再帰的メタ学習器と比較。
• 1-shot 学習器を近似できるよう、1回の勾配更新で深く表現力のあるモデルを示す。
• 普遍性をK-shot設定へ拡張し、勾配ベースのメタ学習への影響を分析。

提案手法

• メタ学習における普遍的関数近似を分析し、普遍的学習手続近似器を定義。
• 前方と後方情報フローを分離して1ステップの普遍性を実現するニューラルネットワークアーキテクチャを構築。
• 十分な深さとバイアス変換を用いれば、勾配ベースの学習器は（データセット、テスト入力）の任意の関数を近似できることを証明。
• K-shot設定へ構築を拡張し、置換不変性を持つ普遍性を示す。
• 勾配情報がラベルを回復するための損失関数要件を概説（例：MNSEと交差エントロピーの場合）。
• 勾配ベースと再帰的メタ学習器をFew-shotタスクで比較する実証実験を要約。

実験結果

リサーチクエスチョン

• RQ1 1-shot設定で深い表現を持つ勾配ベースのメタ学習器は任意の学習アルゴリズムを近似できるか？
• RQ2 K-shot設定でMAMLは再帰的メタ学習器と等しい普遍的表現力を持つか？
• RQ3 勾配ベースのメタ学習器は、再帰的メタ学習器と比較して小さなデータセットでより一般化し過剰適合を抑制できるか？
• RQ4 普遍性に必要なラベル情報を保持する損失関数とは？

主な発見

• 十分に深い勾配ベースのメタ学習器は、1-shot設定で（x, y, x*）の任意の関数を近似できる。
• K-shot設定では、MAMLはデータセットとテスト入力の任意の置換不変関数を近似できる。
• 勾配ベースのメタ学習は、テスト時により多くの勾配ステップを取ることで過学習に対して従来の初期化より耐性を示す。
• MAMLの初期化は、データセット取り込み型メタ学習器よりもメタ学習タスク分布を超えた外挿をよりサポートする。
• 標準的な損失関数（平均二乗誤差やソフトマックス交差エントロピー）は普遍性に必要なラベル直線性特性を満たす；他の損失関数は満たさないものもある。