[論文レビュー] Theoretical Models of Learning to Learn

Jonathan Baxter|Feb 27, 2020

Machine Learning and Algorithms参考文献 8被引用数 42

ひとこと要約

二つの理論的なバイアス学習（learning-to-learn）モデルを紹介：経験過程（EP）モデルと階層ベイズモデルを、関連タスク集合環境からエージェントがバイアスを学習して新しいタスクへ一般化する方法を詳述。

ABSTRACT

A Machine can only learn if it is biased in some way. Typically the bias is supplied by hand, for example through the choice of an appropriate set of features. However, if the learning machine is embedded within an {\em environment} of related tasks, then it can {\em learn} its own bias by learning sufficiently many tasks from the environment. In this paper two models of bias learning (or equivalently, learning to learn) are introduced and the main theoretical results presented. The first model is a PAC-type model based on empirical process theory, while the second is a hierarchical Bayes model.

研究の動機と目的

• 手作りのバイアスを超える一般化のために、バイアス学習を必須とする動機づけ。
• 関連タスクの環境内で学習を学ぶための二つの形式モデル（EPとBayes）を提示。
• 学習者がタスクを横断して一般化するバイアス（または仮説空間ファミリー）をどのように選択するかを示す。
• 効果的な学習を学ぶために必要なタスク数とタスクあたりの例数の確率的境界と洞察を提供。

提案手法

• EPモデル: 仮説空間のファミリーを介してバイアス学習を形式化し、すべてのタスクに渡って良い解を保証するためのタスク/サンプル要件の境界を導出する。
• Bayesモデル: バイアス学習を、ハイパープライアリティを持つタスクの分布上の階層的推論として扱い、KL発散に基づく性能解析につながる。
• 環境を (P, Q) と定義し、Pはタスク分布、Qはタスク上の分布。仮説空間の集合上で最適化を行う。
• 経験的損失 er およびその経験的対応物を導入し、タスク間の一様収束を研究する。
• 主要な結果は、サンプル複雑性（nタスク、タスクあたりのm例）と損失関数クラスのカバー数を関連付ける。
• EPとBayesアプローチの関係を、最大尤度とベイズ更新の視点として論じる。）

実験結果

リサーチクエスチョン

• RQ1 同じ環境から得られた新規タスクに対して良い解を保証するために、バイアス学習者にはいくつのタスクとタスクあたりいくつの例が必要か。
• RQ2 関連タスクを横断して効果的な学習を可能にするために、仮説空間ファミリー（ハイパーバイアス）をどのように選択すべきか。
• RQ3 学習を学ぶという文脈で、経験的過程理論とベイズ的バイアス学習の関係は何か。
• RQ4 タスク分布（P）と環境（Q）を考慮したとき、一般化の境界はどのように変化するか。

主な発見

• 学習を学ぶ二つの形式モデルが開発される：EPベースのバイアス学習モデルと階層ベイズモデル。
• EPモデルでは、環境全体で良い仮説空間を高い確率で保証するために、必要なタスク数とタスクあたりの例数を示す境界が確立される。
• Bayesモデルでは、実現可能性の下で真の分布と事後分布のKL発散が d/m の形で減衰し、EPの結果と一致する。
• EPフレームワークでは、学習を学ぶことは、バイアスを符号化する仮説空間ファミリーの選択に依存する。
• 主要定理は、er_Q(H)と er_z(H) が高い確率で近い条件を提供し、サンプル複雑性を、カバー数を介して仮説空間ファミリーの複雑さに結び付ける。
• 結果は、関連タスクを複数活用することで、タスク数が増えるにつれてタスクあたりのサンプル要件を低減できることを示唆する。