[論文レビュー] Prototype Rectification for Few-Shot Learning

Jinlu Liu, Liang Song+1 more|arXiv (Cornell University)|Nov 25, 2019

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 15

ひとこと要約

本稿では、少数ショット学習におけるプロトタイプネットワークのクラス内およびクラス間バイアスを、擬似ラベル付けと特徴シフトを用いたトランスductive設定で低減する、プロトタイプ補正（Prototype Rectification）を提案する。本手法は最先端の性能を達成し、miniImageNet（1ショット）で70.31%、5ショットで81.89%を記録。tieredImageNet や Meta-Dataset といった複数のベンチマークでも優れた一般化性能を示す。

ABSTRACT

Few-shot learning requires to recognize novel classes with scarce labeled data. Prototypical network is useful in existing researches, however, training on narrow-size distribution of scarce data usually tends to get biased prototypes. In this paper, we figure out two key influencing factors of the process: the intra-class bias and the cross-class bias. We then propose a simple yet effective approach for prototype rectification in transductive setting. The approach utilizes label propagation to diminish the intra-class bias and feature shifting to diminish the cross-class bias. We also conduct theoretical analysis to derive its rationality as well as the lower bound of the performance. Effectiveness is shown on three few-shot benchmarks. Notably, our approach achieves state-of-the-art performance on both miniImageNet (70.31% on 1-shot and 81.89% on 5-shot) and tieredImageNet (78.74% on 1-shot and 86.92% on 5-shot).

研究の動機と目的

• 希少なラベル付きデータによるプロトタイプのバイアスが原因で生じる性能低下を是正すること。
• プロトタイプの代表性を制限する2つの主要因（クラス内バイアスとクラス間バイアス）を同定し、それらを緩和すること。
• トランスductive少数ショット学習における一般化性能を向上させる、単純ながらも効果的なプロトタイプ補正手法を開発すること。
• 本手法の理論的裏付けを提供すること。具体的には、性能の下限値の導出とシフト項の導出を含む。
• miniImageNet、tieredImageNet、Meta-Dataset といった複数の少数ショットベンチマークで最先端の性能を実証すること。

提案手法

• トランスductive設定でプロトタイプを補正するバイアス低減モジュール（BD-CSPN）を提案。このモジュールは、擬似ラベル付けと特徴シフトを統合する。
• 高信頼度の未ラベル付きサンプルを用いた擬似ラベル付けにより、クラス内バイアスを低減。重み付き平均を適用することで、新たなバイアスの導入を回避。
• クエリ特徴をサポート特徴と一致させるためのシフト項 ξ を導入。これにより、クラス間バイアスが低減される。
• 特徴抽出と初期プロトタイプ計算に、コサイン類似度に基づくプロトタイプネットワーク（CSPN）を採用。
• 性能の理論的下限値を導出し、サンプル数と期待精度の正の相関関係を示す。
• 基本クラスでの学習に、標準的なデータオーグメンテーションおよび最適化設定（モーメンタム付きSGD、重み減衰）を用いる。

実験結果

リサーチクエスチョン

• RQ1 クラス内バイアスとクラス間バイアスは、少数ショット学習におけるプロトタイプの代表性にどのように影響を与えるか？
• RQ2 信頼度に基づく選択による擬似ラベル付けは、データが少ない状況下でクラス内バイアスを効果的に低減できるか？
• RQ3 特徴シフトは、サポート分布とクエリ分布の整合性を向上させ、クラス間バイアスを低減できるか？
• RQ4 コサイン類似度に基づくプロトタイプネットワークにおける性能の理論的下限値は何か？また、その値はサンプルサイズとどのように関係するか？
• RQ5 擬似ラベル付けと特徴シフトを組み合わせた単純でモジュラーなアプローチは、複雑な少数ショット学習モデルを上回る性能を発揮できるか？

主な発見

• 提案手法の BD-CSPN は、miniImageNet で 1ショットで 70.31%、5ショットで 81.89% の精度を達成し、新たな最先端を記録した。
• tieredImageNet では、1ショットで 78.74%、5ショットで 86.92% を達成。これも既存手法を上回った。
• Omniglot では、5ショット 10ウェイタスクで最大 99.85% の精度を記録し、優れたロバストネスと一般化性能を示した。
• CUB では、ベースラインの CSPN に比べて 5ショット設定で 10% 以上の精度向上を達成。WRN-28-10 を用いることで 91.74% の精度に到達。
• より高次元のタスク（最大 1000ウェイ）においても、BD-CSPN は強力な性能を維持。Meta-Dataset（1000ウェイ 5ショット）では 85.87% の精度を達成。
• 未ラベルデータに対してロバストであることが示された。5つの追加クラスを未ラベルとして追加しても、5ショット精度はわずか 2.64% の低下にとどまった。