[論文レビュー] Few-Shot Learning with Global Class Representations

Tiange Luo, Aoxue Li+3 more|arXiv (Cornell University)|Aug 14, 2019

Domain Adaptation and Few-Shot Learning参考文献 35被引用数 27

ひとこと要約

本論文は、クラス不均衡を解消するために登録モジュールとサンプル合成を用いて、ベースクラスとネイティブクラスの両方を同時に学習することで、グローバルクラス表現を学習する few-shot ラーニング手法を提案する。このアプローチは、標準的および一般化された few-shot ラーニング設定の両方で最先端の性能を達成しており、より困難な一般化された FSL の設定での顕著な向上を示している。

ABSTRACT

In this paper, we propose to tackle the challenging few-shot learning (FSL) problem by learning global class representations using both base and novel class training samples. In each training episode, an episodic class mean computed from a support set is registered with the global representation via a registration module. This produces a registered global class representation for computing the classification loss using a query set. Though following a similar episodic training pipeline as existing meta learning based approaches, our method differs significantly in that novel class training samples are involved in the training from the beginning. To compensate for the lack of novel class training samples, an effective sample synthesis strategy is developed to avoid overfitting. Importantly, by joint base-novel class training, our approach can be easily extended to a more practical yet challenging FSL setting, i.e., generalized FSL, where the label space of test data is extended to both base and novel classes. Extensive experiments show that our approach is effective for both of the two FSL settings.

研究の動機と目的

• メタラーニングに基づく few-shot ラーニング手法が、トレーニング時にベースクラスでのみ学習を行うため、ネイティブクラスへの一般化が不十分であるという制限を解消すること。
• 推論時だけでなく、トレーニングの初期段階からネイティブクラスを含めることで、ネイティブクラスへの一般化を向上させること。
• ベースクラスとネイティブクラスの間の深刻なクラス不均衡を、サンプル合成とエピソード学習によって克服すること。
• テストデータにベースクラスとネイティブクラスの両方が含まれる、より現実的な一般化された FSL の設定でも効果的な few-shot ラーニングを可能にすること。
• 最小限の再トレーニングで、新たな未観測のネイティブクラスに柔軟に適応できるフレームワークの開発

提案手法

• 本手法は、ベースクラスとネイティブクラスの両方のサンプルを同時に学習することで、グローバルクラス表現を学習し、モデルがネイティブクラスを最初から最適化できるようにする。
• サンプル合成戦略により、同じクラスの既存サンプルの部分空間から合成サンプルを生成することで、ネイティブクラスのクラス内ばらつきを増加させる。
• エピソード学習パイプラインは、サポートセットからエピソードごとのクラス平均を計算し、それを登録モジュールを介してグローバル表現と登録する。
• 登録モジュールは、各サンプルがそのクラスのグローバル表現を自分自身に「引き寄せる」ように働き、他のグローバル表現を「押しのける」ように促進する。
• 分類損失をクエリセット上で計算し、バックプロパゲーションによりグローバル表現を更新することで、エンドツーエンド学習を実現する。
• メタラーニングフレームワークを用いて、各エピソードでベースクラスとネイティブクラスの両方をサンプリングし、バランスの取れた表現学習を保証する。

実験結果

リサーチクエスチョン

• RQ1 トレーニング時にベースクラスのみを用いるメタラーニング手法と比較して、ベースクラスとネイティブクラスを同時に学習することで、few-shot 一般化性能が向上するか？
• RQ2 低ショットのネイティブクラスにおけるクラス内ばらつき問題を軽減するために、サンプル合成はどの程度有効か？
• RQ3 埋め込み空間において空間的分離とクラス固有の整合性を強制することで、登録モジュールはグローバル表現学習を向上させるか？
• RQ4 本手法は、テストデータにベースクラスとネイティブクラスの両方が含まれる一般化された few-shot ラーニング設定において、効果的に一般化できるか？
• RQ5 再トレーニングなしで、新たな未観測のネイティブクラスにどの程度適応できるか？

主な発見

• 提案手法は、標準的および一般化された few-shot ラーニングベンチマークの両方で最先端の性能を達成しており、より困難な一般化された FSL の設定での顕著な向上を示している。
• アブレーションスタディの結果、サンプル合成または登録モジュールを単独で使用しても限定的な向上にとどまるが、両方を組み合わせることで顕著な性能向上が得られることが明らかになった。
• 20個の新しいネイティブクラスを追加した Mini-ImageNet データセットでは、ベースクラスで 40.20%、未観測の新しいネイティブクラスで 12.60% の精度を達成し、プロトタイプネットワークを大きく上回った。
• ベースクラスのグローバル表現を固定した状態でも、強力な性能を維持しており、新たな未観測クラスへの適応コストが低いことが示された。
• 完全なモデル（B+S1+S2+R）は、すべてのアブレーション変種を著しく上回り、サンプル合成と登録の間の相乗効果が、頑健なグローバル表現学習に寄与していることを確認した。