[論文レビュー] Rethinking Few-Shot Image Classification: a Good Embedding Is All You Need?

Yonglong Tian, Yue Wang+3 more|arXiv (Cornell University)|Mar 25, 2020

Domain Adaptation and Few-Shot Learning参考文献 57被引用数 88

ひとこと要約

単純なベースラインで、結合されたメタ訓練データ上で強力な埋め込みを事前訓練し、それを凍結して、各タスクのために線形分類器を訓練すれば、多くのメタ学習手法を上回ることができる。自己蒸留は性能をさらに向上させる。

ABSTRACT

The focus of recent meta-learning research has been on the development of learning algorithms that can quickly adapt to test time tasks with limited data and low computational cost. Few-shot learning is widely used as one of the standard benchmarks in meta-learning. In this work, we show that a simple baseline: learning a supervised or self-supervised representation on the meta-training set, followed by training a linear classifier on top of this representation, outperforms state-of-the-art few-shot learning methods. An additional boost can be achieved through the use of self-distillation. This demonstrates that using a good learned embedding model can be more effective than sophisticated meta-learning algorithms. We believe that our findings motivate a rethinking of few-shot image classification benchmarks and the associated role of meta-learning algorithms. Code is available at: http://github.com/WangYueFt/rfs/.

研究の動機と目的

• 少数ショットの画像分類ベンチマークとメタ学習アルゴリズムの役割を再考させる動機付け。
• 学習済み埋め込みが高度なメタ学習手法を上回るかを調査する。
• 単純なベースラインを提案する：結合されたメタ訓練データ上で埋め込みを事前訓練し、上に線形分類器を訓練する。
• 自己蒸留が性能をさらに向上させることを示す。
• 自己教師付き埋め込みが少数ショットタスクで監督付きと同等になり得ることを示す。

提案手法

• すべてのメタ訓練タスクを1つの大規模分類タスクに統合し、結合データ上のクロスエントロピー損失を介して埋め込みf_phiを学習する。
• 埋め込みを凍結し、メタテスト中に固定埋め込みの上に線形ベース学習器（例：ロジスティック回帰）を訓練する。
• 任意で自己蒸留（Born-again戦略）を適用して、複数世代の埋め込みを生成し、世代間の知識を蒸留する。
• 凍結埋め込みの上でロジスティック回帰、最近傍法、コサインベース分類器などのベース学習器を評価する。
• 下流の少数ショットタスクのために、教師あり・自己教師ありの事前訓練埋め込みを比較する。

実験結果

リサーチクエスチョン

• RQ1 固定で良く学習された埋め込みは、少数ショット分類において最先端のメタ学習アルゴリズムを凌駕し得るか。
• RQ2 結合されたメタ訓練データセットでの事前訓練は、メタテストデータでのファインチューニングなしで十分か。
• RQ3 逐次的な自己蒸留は、データセットとバックボーンを超えて少数ショットの性能を着実に改善するか。

主な発見

• 固定埋め込みを用いた単純なベースラインは、前例のあるメタ学習手法を大きな差で上回ることが多い。
• 自己蒸留は、いくつかのベンチマークで単純なベースラインに対して平均で追加の2–3%の改善をもたらす。
• 最新の自己教師付き手法で学習した埋め込みは、少数ショットのタスクで監督付き埋め込みと同等の性能を達成できる。
• Meta-Datasetでは、この手法が平均して以前の最良結果を7%以上上回る。
• 小型（ConvNet）と大型（ResNet）のバックボーンの両方で埋め込みは有効であり、埋め込みの質が性能の鍵となる。