[論文レビュー] Revisiting Contrastive Learning for Few-Shot Classification.

Orchid Majumder, Avinash Ravichandran+4 more|arXiv (Cornell University)|Jan 26, 2021

Domain Adaptation and Few-Shot Learning参考文献 51被引用数 13

ひとこと要約

本稿では、少サンプル分類における汎化性能の向上を図るために、インスタンス同定に基づく自己教師付き学習に教師情報を統合する対照学習フレームワーク、CIDSを提案する。事前学習段階でクラスレベルの教師情報を活用することで、CIDSはMini-ImageNet、Tiered-ImageNet、Meta-Datasetベンチマークで最先端の性能を達成し、新たなモデル選択戦略によりさらなる性能向上が図られている。

ABSTRACT

Instance discrimination based contrastive learning has emerged as a leading approach for self-supervised learning of visual representations. Yet, its generalization to novel tasks remains elusive when compared to representations learned with supervision, especially in the few-shot setting. We demonstrate how one can incorporate supervision in the instance discrimination based contrastive self-supervised learning framework to learn representations that generalize better to novel tasks. We call our approach CIDS (Contrastive Instance Discrimination with Supervision). CIDS performs favorably compared to existing algorithms on popular few-shot benchmarks like Mini-ImageNet or Tiered-ImageNet. We also propose a novel model selection algorithm that can be used in conjunction with a universal embedding trained using CIDS to outperform state-of-the-art algorithms on the challenging Meta-Dataset benchmark.

研究の動機と目的

• インスタンス同定に基づく対照学習の少サンプル分類設定における一般化性能の限界を是正すること。
• 対照フレームワークにクラスレベルの教師情報を統合することで、自己教師付き表現学習を向上させること。
• CIDSによって学習されたユニバーサル埋め込みと互換性を持つモデル選択アルゴリズムを考案し、少サンプル性能を向上させること。
• 低データ状況における自己教師付き表現と教師あり表現の性能格差を是正すること。

提案手法

• CIDSは、対照的事前学習段階においてクラスレベルの教師情報を統合することで、インスタンス同定に基づく対照学習を拡張する。
• インスタンスレベルの対照損失とクラスレベルの対照損失の二重対照目的を導入し、同じクラスに属する特徴を一致させる。
• 訓練の安定化と特徴の一貫性向上のため、モーメンタムエンコーダーを用いる。
• ゼロショット少サンプル適応に適した最適なハイパーパrameterを特定するための新しいモデル選択アルゴリズムを提案する。
• 特徴を対照空間にマップするためのプロジェクションヘッドを活用し、同一クラスからのペアをポジティブペア、異なるクラスからのペアをネガティブペアとする。
• 本手法はImageNet上でエンドツーエンドに訓練され、追加の教師情報なしで少サンプルベンチマークでファインチューニングされる。

実験結果

リサーチクエスチョン

• RQ1 クラスレベルの教師情報をインスタンス同定に基づく対照学習に統合することで、少サンプル分類における一般化性能が向上するか？
• RQ2 CIDSは、標準的な少サンプルベンチマークにおいて、既存の自己教師付きおよび教師あり手法と比較してどのように性能を発揮するか？
• RQ3 CIDSから得られるユニバーサル埋め込みを、モデル選択戦略を用いて新たな少サンプルタスクに効果的に適応できるか？
• RQ4 低データ環境における教師情報の有無が、表現品質に与える影響は何か？

主な発見

• CIDSはMini-ImageNetおよびTiered-ImageNetベンチマークで最先端の性能を達成し、既存の自己教師付きおよび教師ありベースラインを上回っている。
• 提案されたモデル選択アルゴリズムにより、ユニバーサルCIDS埋め込みは、挑戦的なMeta-Datasetベンチマークでも最先端の結果を上回ることが可能になった。
• クラスレベルの教師情報を統合することで、少サンプル状況下におけるインスタンス同定に基づく対照学習の一般化能力が顕著に向上した。
• 二重対照目的（インスタンスおよびクラス）により、標準的な対照学習と比較して、より判別力があり頑健な特徴表現が得られた。