[論文レビュー] Learning Embedding Adaptation for Few-Shot Learning

Han-Jia Ye, Hexiang Hu+2 more|arXiv (Cornell University)|Dec 10, 2018

Domain Adaptation and Few-Shot Learning参考文献 44被引用数 72

ひとこと要約

本稿では、一貫したセット・ツー・セットの変換関数を用いて、インスタンス埋め込みをターゲット分類タスクに適応させる、FEATと呼ばれる新しい少サンプル学習フレームワークを提案する。このアプローチにより、タスク固有かつ判別的な表現が得られる。FEATは、標準的および拡張型の少サンプル学習ベンチマーク、すなわちドメイン間、帰納的、一般化、低サンプル設定を含む、あらゆる設定で最先端の性能を達成する。

ABSTRACT

Learning with limited data is a key challenge for visual recognition. Many few-shot learning methods address this challenge by learning an instance embedding function from seen classes and apply the function to instances from unseen classes with limited labels. This style of transfer learning is task-agnostic: the embedding function is not learned optimally discriminative with respect to the unseen classes, where discerning among them leads to the target task. In this paper, we propose a novel approach to adapt the instance embeddings to the target classification task with a set-to-set function, yielding embeddings that are task-specific and are discriminative. We empirically investigated various instantiations of such set-to-set functions and observed the Transformer is most effective -- as it naturally satisfies key properties of our desired model. We denote this model as FEAT (few-shot embedding adaptation w/ Transformer) and validate it on both the standard few-shot classification benchmark and four extended few-shot learning settings with essential use cases, i.e., cross-domain, transductive, generalized few-shot learning, and low-shot learning. It archived consistent improvements over baseline models as well as previous methods and established the new state-of-the-art results on two benchmarks.

研究の動機と目的

• 少サンプル学習におけるタスクに依存しない埋め込み関数の限界、すなわち未学習クラスにおける判別性能が最適化されていない点を解決すること。
• 事前に学習されたインスタンス埋め込みを、特定のターゲット分類タスクに特化してより判別的に適応する手法を開発すること。
• 埋め込み適応に適した効果的なセット・ツー・セット関数を探索し、このタスクに最も適したアーキテクチャを同定すること。
• 本手法が、標準的および拡張型の少サンプル学習設定（ドメイン間、帰納的、一般化、低サンプル学習を含む）において、妥当性を検証すること。
• 少サンプル分類のベンチマークデータセットにおいて、新たな最先端の性能を確立すること。

提案手法

• 本手法は、サポートセットの埋め込みをタスク固有の判別的表現に変換するセット・ツー・セット関数を導入する。
• 埋め込み間の長距離依存関係と関係性のインダクティブバイアスをモデル化できる点から、セット・ツー・セット関数としてTransformerアーキテクチャが選択された。
• モデルはエンド・ツー・エンドに訓練され、未学習クラスの埋め込みが分類に適した分離性を持つように埋め込み空間を適応させる。
• 適応プロセスは推論時に行われるため、本手法は柔軟であり、さまざまな少サンプル学習シナリオに適用可能である。
• フレームワークは、標準的少サンプル分類および4つの拡張設定において評価され、その頑健性と一般化性能が示された。
• 最終的なモデルであるFEAT（Few-shot Embedding Adaptation with Transformer）は、標準的な少サンプル学習パイプラインに埋め込み適応モジュールを統合している。

実験結果

リサーチクエスチョン

• RQ1 セット・ツー・セット関数は、未学習クラスにおける判別性能を向上させるために、事前に学習されたインスタンス埋め込みを効果的に適応させることができるか？
• RQ2 特にサポートサンプル間の関係性および文脈的情報をモデル化する際に、どのアーキテクチャがセット・ツー・セット適応関数において最も効果的か？
• RQ3 提案された適応メカニズムは、ドメイン間、帰納的、一般化、低サンプル学習を含む多様な少サンプル学習設定に一般化可能か？
• RQ4 本手法は、標準的および拡張型の少サンプルベンチマークで最先端の性能を達成できるか？

主な発見

• FEATは、評価されたすべての少サンプル学習ベンチマークでベースラインモデルおよび以前の最先端手法を一貫して上回る性能を達成する。
• MLP や RNN などの他のインスタンス化と比較して、Transformerに基づくセット・ツー・セット関数は、判別能力および一般化性能において優れている。
• 本手法は、2つの主要な少サンプル学習ベンチマークで新たな最先端の結果を確立し、標準的および拡張型の両設定で優れた性能を示している。
• 適応メカニズムは、特にドメイン間学習や低サンプル学習のような挑戦的な状況において、未学習クラスの分類精度を顕著に向上させている。