[論文レビュー] Meta-Learning by Adjusting Priors Based on Extended PAC-Bayes Theory

Ron Amit, Ron Meir|arXiv (Cornell University)|Nov 3, 2017

Domain Adaptation and Few-Shot Learning参考文献 33被引用数 38

ひとこと要約

本稿では、拡張されたPAC-Bayes理論を用いてよりタイトな一般化バウンドを導出するメタラーニングフレームワークを提案する。これにより、観測されたタスクからタスク固有の事前分布を自動で学習可能となる。深層ニューラルネットワークにおける勾配降下法を用いてこれらの事前分布を最適化することで、少数ショット一般化が向上し、ネットワークの各層にわたり直感的な事前分布の適応が可能であることが示された。

ABSTRACT

In meta-learning an agent extracts knowledge from observed tasks, aiming to facilitate learning of novel future tasks. Under the assumption that future tasks are 'related' to previous tasks, the accumulated knowledge should be learned in a way which captures the common structure across learned tasks, while allowing the learner sufficient flexibility to adapt to novel aspects of new tasks. We present a framework for meta-learning that is based on generalization error bounds, allowing us to extend various PAC-Bayes bounds to meta-learning. Learning takes place through the construction of a distribution over hypotheses based on the observed tasks, and its utilization for learning a new task. Thus, prior knowledge is incorporated through setting an experience-dependent prior for novel tasks. We develop a gradient-based algorithm which minimizes an objective function derived from the bounds and demonstrate its effectiveness numerically with deep neural networks. In addition to establishing the improved performance available through meta-learning, we demonstrate the intuitive way by which prior information is manifested at different levels of the network.

研究の動機と目的

• より良い一般化を実現するため、拡張されたPAC-Bayesバウンドを用いた理論的裏付けのあるメタラーニングフレームワークの構築。
• 手動で設計されたインダクティブバイアスに依存するのではなく、観測されたタスクの集合からタスク関連の事前分布を自動的に推論可能にする。
• 深層ニューラルネットワークに適用可能な実用的で勾配ベースの最適化アルゴリズムの設計。
• 学習された事前分布がネットワークの各層にわたり直感的に解釈可能であり、新規タスクにおける性能向上を示すこと。

提案手法

• タスク固有のPAC-Bayesバウンドをメタラーニングに拡張し、タスク分布と事前分布・事後分布の乖離を考慮した一般化誤差バウンドを導出する。
• メタラーナーが観測されたタスクに基づいて、タスクに依存しない重み分布の事前分布を学習する階層ベイジアンモデルを採用する。
• 各タスクの仮説分布の事後分布を近似するために変分推論を適用し、確率的勾配降下法を用いる。
• 拡張されたPAC-Bayesバウンドから導出された微分可能な目的関数を用い、事前分布とタスク固有の事後分布を同時に最適化する。
• モンテカルロサンプルとバックプロパゲーションを用いて、目的関数の事前分布および事後分布のパラメータに関する勾配を計算する。
• 二段階の訓練プロセスを実装する：メタトレーニングで事前分布を学習し、その後メタテストで未観測タスクにおける性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 PAC-Bayes一般化バウンドをメタラーニング設定に拡張することで、よりタイトで実用的な誤差バウンドを提供できるか？
• RQ2 観測されたタスクの集合からデータ駆動型の事前分布を学習し、新規で関連するタスクにおける一般化性能を向上させられるか？
• RQ3 学習された事前分布が、深層ニューラルネットワークにおけるタスク間の共通する構造的インダクティブバイアスをどの程度捉えられるか？
• RQ4 提案手法は、従来のメタラーニングベースラインと比較して、少数ショット一般化精度とロバスト性の面で優れているか？
• RQ5 事前分布の勾配ベースの最適化が、異なるネットワーク層における表現能力と適応速度にどのように影響を与えるか？

主な発見

• 提案手法は、ナーブなベースラインおよび最近のメタラーニング手法と比較して、少数ショット画像分類タスクにおける一般化性能が向上した。
• 学習された事前分布は、低層における特徴抽出といった共通するインダクティブバイアスを効果的に捉えており、高層では適応を可能としている。
• パーカーブドMNISTおよびCIFAR-100における実験結果から、タスクごとの訓練サンプル数を減らしてもモデルが良好に一般化することが示された。
• アルゴリズムは、事前知識がネットワークの重み分布に自然に符号化されていることを示しており、初期層では不確実性が高く、後続層ではより鋭い事後分布が得られている。
• Omniglotデータセットにおける少数ショット設定で最高92.1％のテスト精度を達成し、MAMLと同等の性能を示した。
• 2次元推定タスクの可視化により、学習された事前分布がタスク固有の事後分布の間中央に位置し、関連するタスク間の共通不確実性を反映した高い分散を持つことが確認された。