[論文レビュー] Learning to Learn By Self-Critique

Antreas Antoniou, Amos Storkey|arXiv (Cornell University)|Jan 1, 2019

Domain Adaptation and Few-Shot Learning被引用数 13

ひとこと要約

本稿では、推論時にラベルなしターゲット集合データを活用して自己批判によりラベルなし損失関数を学習する、自己批判と適応（Self-Critique and Adapt, SCA）と呼ばれる新しい少サンプル学習フレームワークを提案する。この学習済み損失関数を最適化することでターゲットタスクにおけるモデル性能を向上させることで、Mini-ImageNetおよびCUB-200で最先端の結果を達成し、サポート集合のみで適応するベースラインと比較して顕著に誤差率を低減した。

ABSTRACT

In few-shot learning, a machine learning system learns from a small set of labelled examples relating to a specific task, such that it can generalize to new examples of the same task. Given the limited availability of labelled examples in such tasks, we wish to make use of all the information we can. Usually a model learns task-specific information from a small training-set (support-set) to predict on an unlabelled validation set (target-set). The target-set contains additional task-specific information which is not utilized by existing few-shot learning methods. Making use of the target-set examples via transductive learning requires approaches beyond the current methods; at inference time, the target-set contains only unlabelled input data-points, and so discriminative learning cannot be used. In this paper, we propose a framework called Self-Critique and Adapt or SCA, which learns to learn a label-free loss function, parameterized as a neural network. A base-model learns on a support-set using existing methods (e.g. stochastic gradient descent combined with the cross-entropy loss), and then is updated for the incoming target-task using the learnt loss function. This label-free loss function is itself optimized such that the learnt model achieves higher generalization performance. Experiments demonstrate that SCA offers substantially reduced error-rates compared to baselines which only adapt on the support-set, and results in state of the art benchmark performance on Mini-ImageNet and Caltech-UCSD Birds 200.

研究の動機と目的

• 推論時にラベルなしターゲット集合データを活用しない既存の少サンプル学習手法の制限を解消すること。
• ターゲットのラベルを必要とせず、サポート集合とラベルなしターゲット集合のみを用いてトランスductive適応を可能にする手法を開発すること。
• 自己批判を通じてモデル一般化性能を向上させる、微分可能でニューラルネットワークパラメータ化された損失関数を学習すること。
• 適応段階でターゲット集合情報を組み込むことで、標準的な少サンプルベンチマークで最先端の性能を達成すること。

提案手法

• SCAは、推論段階でターゲット集合のラベルなしデータを用いてモデル更新を導くラベルなし損失関数をニューラルネットワークで学習する。
• ベースモデルは、確率的勾配降下法と交差エントロピー損失を用いた標準的手法でサポート集合上で事前学習される。
• 推論段階では、自己学習した損失関数を用いてターゲット集合上でモデルが更新され、この損失関数は一般化性能を最大化するように最適化される。
• 損失関数は、適応後のターゲットタスクでの誤差を最小化するメタ学習目的により訓練される。
• 微分可能でエンドツーエンドで学習可能なプロセスを通じて、ラベルなしターゲットデータを効果的に活用することで、トランスductive少サンプル学習が可能になる。
• 学習済み損失関数は、教師強化ラベルが存在しない状況でも、ターゲットデータ上のモデル予測を評価・改善する「批評者」として機能する。

実験結果

リサーチクエスチョン

• RQ1 モデルは、ラベルなしターゲットデータ上の予測を自己批判することで、自身の一般化性能を向上させることができるか？
• RQ2 ラベルが入手不可な状況下で、ラベルなしターゲット集合の例をどのように効果的に少サンプル学習に活用できるか？
• RQ3 ニューラルネットワークでパラメータ化された損失関数を訓練することで、未観測タスクにおけるモデル適応を改善できるか？
• RQ4 学習済み損失を介してターゲット集合情報を統合することで、従来のインダクティブ少サンプル学習手法よりも良好な一般化が達成できるか？

主な発見

• サポート集合でのみ適応するベースラインと比較して、SCAは顕著に低い誤差率を達成した。
• 本手法は、Mini-ImageNetベンチマークで新たな最先端性能を樹立した。
• SCAは、Caltech-UCSD Birds 200（CUB-200）データセットでも最先端の結果を達成した。
• 学習済みラベルなし損失関数は、推論段階でラベルなしターゲットデータを活用することで、モデル一般化性能を効果的に向上させた。
• 本フレームワークは、ターゲット集合にラベルが不要なトランスductive少サンプル学習の実現可能性を示した。