[論文レビュー] Few-Shot Open-Set Recognition using Meta-Learning

Bo Liu, Hao Kang+3 more|arXiv (Cornell University)|May 27, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 5

ひとこと要約

本稿では、ランダムな新規クラスサンプリング、エントロピー最大化損失、マハラノビス距離に基づくメトリック学習を統合した少サンプルオープンセット認識のためのメタラーニングフレームワーク、PEELERを提案する。本手法は、CIFARおよびminiImageNetにおける高精度な既知/未知クラス検出のAUROCを著しく向上させつつ、既知クラスの分類精度を維持し、少サンプルおよび大規模オープンセット認識ベンチマークの両方で最先端の性能を達成する。

ABSTRACT

The problem of open-set recognition is considered. While previous approaches only consider this problem in the context of large-scale classifier training, we seek a unified solution for this and the low-shot classification setting. It is argued that the classic softmax classifier is a poor solution for open-set recognition, since it tends to overfit on the training classes. Randomization is then proposed as a solution to this problem. This suggests the use of meta-learning techniques, commonly used for few-shot classification, for the solution of open-set recognition. A new oPen sEt mEta LEaRning (PEELER) algorithm is then introduced. This combines the random selection of a set of novel classes per episode, a loss that maximizes the posterior entropy for examples of those classes, and a new metric learning formulation based on the Mahalanobis distance. Experimental results show that PEELER achieves state of the art open set recognition performance for both few-shot and large-scale recognition. On CIFAR and miniImageNet, it achieves substantial gains in seen/unseen class detection AUROC for a given seen-class classification accuracy.

研究の動機と目的

• 大規模分類器が訓練クラスに過適合する傾向にあることによる限界を是正すること。
• 少サンプルおよび大規模オープンセット認識を統一した1つのメタラーニングフレームワークで統合すること。
• メタラーニングの原則とメトリック学習を活用することで、オープンセット認識におけるロバスト性と一般化性能を向上させること。
• データが少ない状況下でも優れた性能を発揮し、大規模な設定でも強力な性能を維持できる手法を開発すること。
• 限定的なアノテーションでの弱教師ありオブジェクト発見タスクにおける本手法の有効性を示すこと。

提案手法

• エピソードベースのメタラーニングを採用し、各エピソードごとに新規クラスをランダムに選択することで、トレーニング時にオープンセット条件をシミュレートする。
• 新規クラスの例に対して事後確率のエントロピーを最大化する新しい損失関数を導入し、拒否領域における不確実性を促進する。
• マハラノビス距離に基づくメトリック学習部を用いて、既知クラスを超えた一般化を向上させるための特徴空間の構造を改善する。
• 既知クラスに対してはクロスエントロピー損失、オープンセットサンプルに対してはエントロピー最大化損失を用いて、エンドツーエンドでモデルを訓練する。
• 推論時、最近接するクラス中心からのマハラノビス距離に基づいて、サンプルを既知クラスに分類するか、未知クラスとして拒否する。
• エピソードサンプリングおよび損失部の変更により、大規模認識に適応したフレームワークを構築する。

実験結果

リサーチクエスチョン

• RQ1 少サンプル分類に特化したメタラーニング技術を、オープンセット認識に効果的に拡張できるか？
• RQ2 新規クラスにエントロピー最大化を組み込むことで、オープンセット検出性能が向上するか？
• RQ3 提案されたマハラノビスメトリック学習部は、オープンセット認識における一般化性能をどのように向上させるか？
• RQ4 統一されたモデルが、少サンプルおよび大規模オープンセット認識の両設定で最先端の性能を達成できるか？
• RQ5 本手法は、オープンセットクラス数や1クラスあたりのサンプル数の変動に対してどれほどロバストか？

主な発見

• PEELERは、少サンプルおよび大規模オープンセット認識ベンチマークの両方で最先端のAUROC性能を達成し、CIFARおよびminiImageNetにおいて先行手法と比べて顕著な向上を示す。
• mini-ImageNetでは、AUROCが大幅に向上し、既知クラス分類精度を高い水準で維持している。これは、優れた一般化性能を示している。
• オープンセットクラス数（1〜10）や1クラスあたりのサンプル数の変動に対して、性能の変動が最小限に抑えられており、これらの要因に対してロバストであることが示された。
• XJTU-Stevensデータセットにおける弱教師ありオブジェクト発見タスクでは、最も優れた既存手法（VODC）を上回り、すべての設定で誤分類フレーム数を半減させた。
• アブレーションスタディにより、エントロピー最大化損失およびマハラノビスメトリック学習が、特にオープンセット検出において重要な役割を果たしていることが確認された。
• メタラーニングに基づくアーキテクチャは、標準的なクロスエントロピーで訓練された分類器よりも、分布シフトに対して inherently よりロバストであることが示された。