[論文レビュー] Transductive Episodic-Wise Adaptive Metric for Few-Shot Learning

Limeng Qiao, Yemin Shi+4 more|arXiv (Cornell University)|Oct 5, 2019

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 38

ひとこと要約

TEAM は、各少数ショットタスクに対してタスク特有のエピソード単位の指標を学習し、適応を半正定値計画問題として定式化し、トランスダクティブ推論を用いることで、双方向の類似性戦略を通じて少数ショット分類を改善する。

ABSTRACT

Few-shot learning, which aims at extracting new concepts rapidly from extremely few examples of novel classes, has been featured into the meta-learning paradigm recently. Yet, the key challenge of how to learn a generalizable classifier with the capability of adapting to specific tasks with severely limited data still remains in this domain. To this end, we propose a Transductive Episodic-wise Adaptive Metric (TEAM) framework for few-shot learning, by integrating the meta-learning paradigm with both deep metric learning and transductive inference. With exploring the pairwise constraints and regularization prior within each task, we explicitly formulate the adaptation procedure into a standard semi-definite programming problem. By solving the problem with its closed-form solution on the fly with the setup of transduction, our approach efficiently tailors an episodic-wise metric for each task to adapt all features from a shared task-agnostic embedding space into a more discriminative task-specific metric space. Moreover, we further leverage an attention-based bi-directional similarity strategy for extracting the more robust relationship between queries and prototypes. Extensive experiments on three benchmark datasets show that our framework is superior to other existing approaches and achieves the state-of-the-art performance in the few-shot literature.

研究の動機と目的

• 少数ショット学習においてデータが極度に不足するタスクへ適応する、汎用化可能な分類器を学習する課題を動機づける。
• 転導推論を用いてタスクごとにエピソード単位の指標を適合させる meta-learning フレームワーク (TEAM) を提案する。
• ペアワイズ制約と正則化事前分布を、タスク固有の指標学習のための解ける SDP 形式に組み込む。
• クエリとプロトタイプ間の注意機構を用いた双方向の類似性と、タスクレベルのデータ拡張手法で頑健性を高める。

提案手法

• 少数ショットタスクのプールで訓練されたタスク非依存な特徴抽出機で入力を埋め込む。
• ペア制約付き損失と正則化項を備えた凸最適化（SDP）としてタスクごとの指標適応を定式化する。
• 閉形式解 M_t^* = (M_0^{-1} + γ M̃ − γ λ Ĉ)^{-1} を導出し、共分散項 Σ_t を加えて M_t^† を得る。
• クエリからプロトタイプへの類似度とプロトタイプからクエリへの類似度の両方を計算し、それを乗法的に組み合わせる Bi-SIM 戦略を導入する。
• Task Internal Mixing (TIM) を適用して、タスク内のサンプルを凸結合して拡張タスクを合成する。
• テスト時のパフォーマンス向上のために、任意で転導型 BN または明示的な転導を利用する。

実験結果

リサーチクエスチョン

• RQ1 共有のタスク非依存指標を使うのではなく、各少数ショットタスクに識別的な指標をどのように適合させるか？
• RQ2 トランスダクティブ推論はサポートセットとクエリセットを共同利用して少数ショット分類性能を向上させることができるか？
• RQ3 適応を解ける SDP として定式化することで、重い勾配ベースの更新を伴わずに、効率的で即時のタスク特異的指標学習が可能になるか？
• RQ4 極めてデータが限られた状況で、双方向の類似性メカニズムはクエリとラベルの予測の頑健性を向上させるか？

主な発見

• TEAM は 5-way 1-shot および 5-way 5-shot 設定の3つのベンチマーク（miniImageNet、CIFAR-100、CUB）で最先端または競争力のある結果を達成する。
• ConvNet ボトルネックでの miniImageNet では、TEAM はベースラインに対して 5-way 1-shot および 5-way 5-shot の精度をそれぞれ substantial margins（例：4.89 ポイント、3.33 ポイント）上回る。
• miniImageNet の公表済み最先端手法と比較して、TEAM は 1-shot で 1.06%、5-shot で 2.18% の絶対的改善を提供する（論文に記載のとおり）。
• 転導を用いた TEAM は CIFAR-100 および CUB の 5-way 1-shot および 5-shot タスクで顕著な改善を示し、バックボーン全体で非転導ベースラインに対して一貫した改善を達成する。