[論文レビュー] All you need is a good representation: A multi-level and classifier-centric representation for few-shot learning.

Shaoli Huang, Dacheng Tao|arXiv (Cornell University)|Nov 28, 2019

Domain Adaptation and Few-Shot Learning被引用数 12

ひとこと要約

本論文は、局所的、グローバル的、および高レベルの特徴を統合することで一般化性能と分類器の識別能力を向上させる、少サンプル学習のためのマルチレベルで分類器中心の表現を提案する。分類器中心の損失を導入することで、少ないサンプルでも効果的な分類が可能となり、低ショットベンチマークで最先端の手法を上回り、ドメインシフトに対しても強いロバスト性を示す。

ABSTRACT

The main problems of few-shot learning are how to learn a generalized representation and how to construct discriminant classifiers with few-shot samples. We tackle both issues by learning a multi-level representation with a classifier-centric constraint. We first build the multi-level representation by combining three different levels of information: local, global, and higher-level. The resulting representation can characterize new concepts with different aspects and present more universality. To overcome the difficulty of generating classifiers by several shot features, we also propose a classifier-centric loss for learning the representation of each level, which forces samples to be centered on their respective classifier weights in the feature space. Therefore, the multi-level representation learned with classifier-centric constraint not only can enhance the generalization ability, but also can be used to construct the discriminant classifier through a small number of samples. Experiments show that our proposed method, without training or fine-tuning on novel examples, can outperform the current state-of-the-art methods on two low-shot learning datasets. We further show that our approach achieves a significant improvement over baseline method in cross-task validation, and demonstrate its superiority in alleviating the domain shift problem.

研究の動機と目的

• 限られたサポートサンプルでの少サンプル学習における一般化表現の学習という課題に対処すること。
• 特に新規クラスに対して、学習データが不足している状況でも分類器の識別能力を向上させること。
• 特徴表現のロバスト性を高めることでドメインシフトへの感受性を低減すること。
• 新規例のファインチューニングを必要としない表現学習フレームワークを開発すること。
• マルチレベルの特徴抽象化と分類器最適化を1つの学習目的に統合すること。

提案手法

• 本手法は、局所的、グローバル的、および高レベルの特徴を統合することで、入力データの多様な側面を捉えるマルチレベル表現を構築する。
• 特徴埋め込みが特徴空間内での対応する分類器重みベクトルに引き寄せられるように、分類器中心の損失を導入する。
• 分類器中心の制約は、表現の各レベルに適用され、各レベルが識別的な分類器学習に寄与することを保証する。
• 交差エントロピー損失と提案された分類器中心正則化を組み合わせて、エンドツーエンドでモデルを学習する。
• 最終的な表現は、新規クラスやサポートセットに対するファインチューニングなしに、直接推論に使用される。
• 本手法は、複数の抽象化レベルで特徴を抽出する共有バックボーンネットワークを活用し、それらを統合することで一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 低ショット条件下で、マルチレベル表現は少サンプル学習における一般化を改善できるか？
• RQ2 分類器中心の特徴整合を強制することで、少ないサンプルでの分類器性能が向上するか？
• RQ3 提案手法は、新規例のファインチューニングなしに優れた性能を達成できるか？
• RQ4 クロスタスクの少サンプル学習シナリオにおいて、本手法はドメインシフトをどの程度軽減できるか？
• RQ5 標準的な表現学習と比較して、分類器中心の損失はどの程度識別能力を向上させるか？

主な発見

• 提案手法は、新規例のファインチューニングを必要とせず、2つの低ショット学習ベンチマークで現在の最先端手法を上回った。
• クロスタスク検証においてベースラインモデルに比べて顕著な改善を示し、多様な少サンプルタスクにわたる強い一般化性能を示した。
• 分類器中心の損失は、クラス中心の周囲に特徴が凝集するのを効果的に促進し、少ないサンプルでも識別能力が向上した。
• マルチレベル表現は、局所的、グローバル的、および高レベルの抽象化を通じて、新しい概念の多様な側面を捉えることで、より高い普遍性を示した。
• ドメインシフトに対して強いロバスト性を示し、分布外またはシフトしたデータ分布でテストしても性能を維持した。
• アブレーションスタディにより、マルチレベル特徴統合と分類器中心の損失の両方が最終的な性能向上に顕著に寄与することが確認された。