[論文レビュー] TapNet: Neural Network Augmented with Task-Adaptive Projection for Few-Shot Learning

S.W. Yoon, Jun Seo+1 more|arXiv (Cornell University)|May 16, 2019

Domain Adaptation and Few-Shot Learning被引用数 78

ひとこと要約

TapNetは、標準的な埋め込み+クラス別参照フレームワークにタスク適応型の線形射影を追加し、エピソードをまたいで埋め込みと参照を学習しつつ、各エピソードに対してタスク特異的な射影空間を構築して、最先端のfew-shot分類を達成します。

ABSTRACT

Handling previously unseen tasks after given only a few training examples continues to be a tough challenge in machine learning. We propose TapNets, neural networks augmented with task-adaptive projection for improved few-shot learning. Here, employing a meta-learning strategy with episode-based training, a network and a set of per-class reference vectors are learned across widely varying tasks. At the same time, for every episode, features in the embedding space are linearly projected into a new space as a form of quick task-specific conditioning. The training loss is obtained based on a distance metric between the query and the reference vectors in the projection space. Excellent generalization results in this way. When tested on the Omniglot, miniImageNet and tieredImageNet datasets, we obtain state of the art classification accuracies under various few-shot scenarios.

研究の動機と目的

• ラベル付きサンプルが少ない中で、見たことのないタスクを認識する課題に動機づけ、対処する。
• タスク特異的射影を介して分類を条件付けしつつ、共有埋め込みネットワークとクラス参照を学習するメタ学習フレームワークを開発する。
• 埋め込み特徴と各クラス参照ベクトルを整合させる射影空間を各エピソードごとに構築することで、新しいタスクへの迅速な適応を実現する。

提案手法

• 入力を埋め込み空間へ写像する埋め込みネットワーク f_theta を用いる。
• エピソードを跨いで学習される各クラス参照ベクトル Phi の集合を維持する。
• クラス平均埋め込みを修正参照と整合させる線形ヌル空間射影によってタスク依存の射影 M を計算する。
• 射影空間内のEuclidean距離を測定して、M(f_theta(x)) と M(phi_k) の間の距離でクエリを分類する。
• クエリサンプルに対して距離ベースの損失を最小化するエピソディックトレーニングを通じて、エピソードを跨って f_theta と Phi を更新する。

実験結果

リサーチクエスチョン

• RQ1 タスク適応型射影は、標準的なメトリクスベース手法を超えて few-shot 学習の一般化を改善できるか？
• RQ2 ファインチューニングなしで新しいタスクへ迅速に適応するように各クラス参照ベクトルと共有埋め込みを学習するには、どうすればよいか？
• RQ3 エピソードごとにタスク特異的射影空間を構築することは、固定の埋め込み空間よりも埋め込みとクラス参照の整合を向上させるか？
• RQ4 射影空間の次元数が few-shot 性能に与える影響は何か？

主な発見

データセット	設定	1-shot	5-shot
Omniglot (20-way)	TapNet (1-shot)	98.07%	99.49%
mini ImageNet (5-way)	TapNet (1-shot)	61.65%	76.36%
tiered ImageNet (5-way)	TapNet (1-shot)	63.08%	80.26%

• TapNetは20-way Omniglotで最先端の結果を達成（98.07% 1-shot、99.49% 5-shot）。
• 5-way mini-ImageNetで、TapNetは61.65%（1-shot）と76.36%（5-shot）を達成。
• 5-way tiered-ImageNetで、TapNetは63.08%（1-shot）、80.26%（5-shot）を達成。
• この手法は、タスク横断で学習された埋め込みと参照を、タスク特異的射影と組み合わせることで、従来のメトリックベースのメタ学習手法より一般化を改善する。