[論文レビュー] Meta-Learning for Semi-Supervised Few-Shot Classification

Mengye Ren, Eleni Triantafillou+6 more|arXiv (Cornell University)|Mar 2, 2018

Domain Adaptation and Few-Shot Learning参考文献 21被引用数 726

ひとこと要約

この論文は Prototypical Networks を半教師ありの少数ショット学習に拡張し、エピソード内の未ラベルデータを組み込み、いくつかの改良（ソフトk-平均法、ディストラクターの処理、マスキング）を提案して、Omniglot、mini-ImageNet、tiered-ImageNet の一貫した性能向上を示します。

ABSTRACT

In few-shot classification, we are interested in learning algorithms that train a classifier from only a handful of labeled examples. Recent progress in few-shot classification has featured meta-learning, in which a parameterized model for a learning algorithm is defined and trained on episodes representing different classification problems, each with a small labeled training set and its corresponding test set. In this work, we advance this few-shot classification paradigm towards a scenario where unlabeled examples are also available within each episode. We consider two situations: one where all unlabeled examples are assumed to belong to the same set of classes as the labeled examples of the episode, as well as the more challenging situation where examples from other distractor classes are also provided. To address this paradigm, we propose novel extensions of Prototypical Networks (Snell et al., 2017) that are augmented with the ability to use unlabeled examples when producing prototypes. These models are trained in an end-to-end way on episodes, to learn to leverage the unlabeled examples successfully. We evaluate these methods on versions of the Omniglot and miniImageNet benchmarks, adapted to this new framework augmented with unlabeled examples. We also propose a new split of ImageNet, consisting of a large set of classes, with a hierarchical structure. Our experiments confirm that our Prototypical Networks can learn to improve their predictions due to unlabeled examples, much like a semi-supervised algorithm would.

研究の動機と目的

• メタ学習エピソード内で半教師あり少数ショット学習を動機づけ、 formalize する。
• 訓練時と推論時の両方で unlabeled data を活用するよう Prototypical Networks を拡張する。
• 未ラベルデータの改良を robust に開発し、未ラベルプールのディストラクターを処理する。
• adapted Omniglot および ImageNet ベースのベンチマークで評価し、tiered ImageNet を階層的クラス分割として導入する。

提案手法

• ラベル付きサポートセット、未ラベルプール、クエリセットを含むエピソードをメタ学習フレームワークで表現する。
• (i) Prototypical Networks のソフト k-平均法拡張、(ii) ディストラクター cluster を含むソフト k-平均法、(iii) 学習済みマスキングを用いて潜在的ディストラクターを抑える Masked Soft k-means を用いて、未ラベルデータを用いてクラスプロトタイプを改良する。
• 改良されたプロトタイプを用いて標準の Prototypical Network 損失で end-to-end に学習し、埋め込みを半教師ありの改良に適応させる。
• 1ショットおよび5ショットの精度を、ディストラクターの有無で評価しつつ、Omniglot、mini-ImageNet、tiered-ImageNet をクラスごとにラベル付き/ラベルなしの分割で適用する。
• 再現性のために公開可能なコードを提供する（GitHubリンク）。

実験結果

リサーチクエスチョン

• RQ1 エピソード内の未ラベルデータは、未ラベル集合がターゲットクラスをカバーする場合やディストラクターを含む場合に、少数ショット分類を改善するか。
• RQ2 メタトレーニング中に学習したプロトタイプの半教師あり改良は、純粋に監督付きの Prototypical Networks およびナイーブな半教師あり推論を上回るか。
• RQ3 どの半教師あり改良戦略（ディストラクター/マスキングを伴うソフトk-平均の変種を含む）が、データセットおよびショット設定を横断して最も頑健で正確か。
• RQ4 tiered ImageNet の階層構造は、少数ショット半教師あり学習と distinct テストクラスへの一般化にどのように影響するか。

主な発見

• 提案されたすべての半教師あり Prototypical Network の変種は、Omniglot、mini-ImageNet、tiered-ImageNet のほとんどの設定で純粋に監督付きのベースラインを上回る。
• ディストラクターがない設定では、少なくとも1つの半教師あり変種がデータセットとショット数を横断してベースラインを上回り、単一モデルが普遍的に最良とはならない。
• ディストラクターのシナリオでは、Masked Soft k-Means が最も頑健な性能を示し、評価された手法の中でしばしば最先端を達成する。
• 未ラベル集合サイズ M の増加はテスト精度を改善し、モデルがメタトレーニングを通じて未ラベルデータを活用することを示唆する。
• 本研究は半教師あり少数ショット学習の大規模で階層的なベンチマークとして tiered ImageNet を導入する。