[論文レビュー] EASY: Ensemble Augmented-Shot Y-shaped Learning: State-Of-The-Art Few-Shot Classification with Simple Ingredients

Yassir Bendou, Yuqing Hu+5 more|arXiv (Cornell University)|Jan 24, 2022

Domain Adaptation and Few-Shot Learning被引用数 8

ひとこと要約

この論文は、アンサンブル特徴抽出、データオーグメンテーション、最小限の後処理を組み合わせることで、標準ベンチマークで最先端の性能を達成する、シンプルだが非常に効果的な few-shot 学習手法 EASY を提案する。事前学習されたバックボーンに自己教師付き損失を適用し、最小限で原理的である特徴工学を施すことで、追加のハイパーパramーターやパラメータをほとんど追加せずに、複雑な最先端手法を上回る性能を達成する。

ABSTRACT

Few-shot learning aims at leveraging knowledge learned by one or more deep learning models, in order to obtain good classification performance on new problems, where only a few labeled samples per class are available. Recent years have seen a fair number of works in the field, introducing methods with numerous ingredients. A frequent problem, though, is the use of suboptimally trained models to extract knowledge, leading to interrogations on whether proposed approaches bring gains compared to using better initial models without the introduced ingredients. In this work, we propose a simple methodology, that reaches or even beats state of the art performance on multiple standardized benchmarks of the field, while adding almost no hyperparameters or parameters to those used for training the initial deep learning models on the generic dataset. This methodology offers a new baseline on which to propose (and fairly compare) new techniques or adapt existing ones.

研究の動機と目的

• few-shot 学習研究における不適切なベースラインモデルの問題に対処すること。すなわち、提案手法の革新性ではなく、初期学習が不十分であるがために性能向上が見られる現象を是正すること。
• 追加の複雑さやハイパーパramーターやパラメータをほとんど追加せずに、シンプルで再現可能かつ効果的なベースライン手法を提案すること。
• アンサンブル学習、自己教師付き学習、シンプルな特徴処理を適切に組み合わせることで、標準的なコンponentsのみで強力な few-shot 分類性能を達成できることを示すこと。
• 新しいコンponentsの影響を明確に分離できるように、公平なベンチマークを提供すること。そのために、強力でシンプルなベースラインを確立すること。

提案手法

• ベースクラス分類のための交差エントロピー損失と自己教師付き回転予測のための損失を併用し、汎用データセット上で複数の ResNet12 バックボーンをアンサンブルして学習する。
• 一般化性能とロバストネスを向上させるために、訓練中にマニフォールドミックスアップを適用する。
• 推論時、各新しい画像から複数のクロップを生成し、すべてのアンサンブルバックボーンを用いて特徴を抽出し、各バックボーンごとに特徴を平均化して拡張サンプルを形成する。
• すべてのバックボーンからの平均化された特徴を連結して、各入力画像に対して1つの豊富な表現を形成する。
• 特徴前処理を実施：ベースデータセットの平均（誘導的）または新しい特徴の平均（転送的）を特徴から差し引いて特徴を中央化し、その後単位超球面に射影する。
• 誘導的設定では最近傍クラス平均（NCM）分類器、転送的設定ではソフト K-means を用いて最終予測を実施する。

実験結果

リサーチクエスチョン

• RQ1 アンサンブル学習、自己教師付き学習、特徴工学という標準的なディープラーニングコンponentsのシンプルな組み合わせが、最先端の few-shot 分類性能を達成できるか？
• RQ2 複雑な補助モジュールを追加しない優れた事前学習バックボーンを用いることで、依然として強力な性能が得られるか。また、適切に設計された単純な手法が、より複雑な手法を上回ることはあるか？
• RQ3 アンサンブル特徴抽出と組み合わせた場合、データオーグメンテーションと特徴前処理は、few-shot 学習における性能向上にどの程度寄与するか？
• RQ4 追加のハイパーパramーターや学習可能なヘッドを一切持たない手法が、今後の few-shot 学習研究の公平で強力なベースラインとして機能できるか？

主な発見

• EASY は、転送的 1-shot 状態で CUB-FS で 84.04% ± 0.23 のトップ1正答率を達成し、以前の最先端手法である PEMnE-BMS∗（83.35%） や iLPC（83.05%） を上回った。
• CIFAR-FS では、1-shot 時に 90.50% ± 0.19、5-shot 時に 93.50% ± 0.09 の正答率を達成し、iLPC（89.00% および 92.74%） や Rot+KD+POODLE（89.93% および 93.78%） を上回った。
• 誘導的設定では、Tiered-ImageNet で 1-shot 時に 83.98% ± 0.24、5-shot 時に 89.26% ± 0.14 を達成し、iLPC（83.49% および 89.48%） や ODC（83.73% および 90.46%） を上回った。
• アブレーションスタディの結果、アンサンブル、拡張サンプル、特徴前処理の各コンポーネントが性能向上に顕著に寄与しており、フルパイプラインが最良の結果をもたらした。
• MiniImageNet、CUB-FS、CIFAR-FS、FC-100、Tiered-ImageNet のすべてのデータセットで強力な性能を維持しており、ロバストネスと一般化性能が確認された。
• 標準的なコンponentsと最小限のハイパーパramーターオプションのみを用いても、EASY はすべてのベンチマークで新たな SOTA を樹立した。これは、シンプルさと強力な設計が、複雑さを上回ることを実証している。