[論文レビュー] TapNet: Neural Network Augmented with Task-Adaptive Projection for Few-Shot Learning

S.W. Yoon, Jun Seo+1 more|arXiv (Cornell University)|May 16, 2019

Domain Adaptation and Few-Shot Learning参考文献 22被引用数 123

ひとこと要約

TapNetは埋め込みネットワークとクラスごとのリファレンスベクトルを学習しつつ、各エピソードごとにタスク特化の射影空間を構築する。Omniglot、miniImageNet、tieredImageNetで最先端のfew-shot分類を達成する。

ABSTRACT

Handling previously unseen tasks after given only a few training examples continues to be a tough challenge in machine learning. We propose TapNets, neural networks augmented with task-adaptive projection for improved few-shot learning. Here, employing a meta-learning strategy with episode-based training, a network and a set of per-class reference vectors are learned across widely varying tasks. At the same time, for every episode, features in the embedding space are linearly projected into a new space as a form of quick task-specific conditioning. The training loss is obtained based on a distance metric between the query and the reference vectors in the projection space. Excellent generalization results in this way. When tested on the Omniglot, miniImageNet and tieredImageNet datasets, we obtain state of the art classification accuracies under various few-shot scenarios.

研究の動機と目的

• 少数ショット学習を動機づけ、限られたラベル付きデータで未見タスクへの迅速な適応を実現する。
• 埋め込み、クラスごとのリファレンス、およびタスク特有の射影空間を共同で学習するメタラーニングフレームワークを提案する。
• エピソードごとに embeddingsとクラスリファレンスを線形射影で分類を整合させ、一般化を高める。
• 標準的なfew-shotベンチマークで強力な実証性能を示し、学習されたリファレンスと射影空間の挙動を分析する。

提案手法

• 入力を特徴空間へ写像する埋め込みネットワーク f_theta を用いる。
• 各クラスの参照ベクトル Phi の集合を維持し、参照空間におけるクラスプロトタイプを表す。
• エピソードに依存する線形射影 M を計算し、特徴を新しい分類空間へ写像する。
• サポート集合から得られるクラス平均 c_k を、修正されたリファレンス tilde(phi)_k と、誤ベクトルの線形零化により整合させ、SVDを介して M を取得する。
• 射影空間内のユークリッド距離を用いて、射影されたリファレンス M(f_theta(x_hat)) との距離でクエリを分類する。
• 射影空間の距離に基づくエピソード間の分類損失を最小化するよう、エピソードごとの訓練を通じて f_theta と Phi を更新する。

実験結果

リサーチクエスチョン

• RQ1 タスク特異的な射影空間は、静的な埋め込み空間を超えて少数ショット学習の一般化を改善できるか？
• RQ2 タスク間で学習される各クラスのリファレンスベクトルと、タスク条件付きの射影を組み合わせると、 unseenクラスへの整合と識別性が向上するか？
• RQ3 射影空間の次元が少数ショットの性能へどのように影響するか？
• RQ4 標準ベンチマークで、TapNetは既存のメトリックベースおよびメモリ拡張型メタ学習器とどのように比較されるか？

主な発見

• TapNetは20-way Omniglotで1-shot 98.07%、5-shot 99.49%精度を達成。
• TapNetは5-way miniImageNetで1-shot 61.65%、5-shot 76.36%精度を達成。
• TapNetは5-way tieredImageNetで1-shot 63.08%、5-shot 80.26%精度を達成。
• 射影空間 M は、埋め込みとリファレンスのずれを線形で零化することによりエピソードごとに構築され、M 自体の学習パラメータを必要とせず、タスク特化の条件づけを可能にする。
• 多くのエピソードでの学習と高いクラス数でのトレーニングは性能を向上させ、少数ショットテストにおけるクラス数の変動を処理可能にする。
• 可視化分析は、リファレンスが投影空間で自然に分離し、射影後に一致するリファレンスと整列することを示している。