[論文レビュー] Cross-domain few-shot learning with unlabelled data

Fupin Yao|arXiv (Cornell University)|Jan 19, 2021

Domain Adaptation and Few-Shot Learning参考文献 25被引用数 9

ひとこと要約

本論文は、ドメインギャップを埋めるためにラベルなしのターゲットドメインデータを統合する、新規なクロスドメイン少数ショット学習設定を提案する。自己教師あり学習手法を導入し、ベースラインを著しく上回る性能を達成している。本手法はDomainNetにおいて最先端の正確度を達成し、複数のターゲットドメインで平均71.08%の少数ショット正確度を達成している。

ABSTRACT

Few shot learning aims to solve the data scarcity problem. If there is a domain shift between the test set and the training set, their performance will decrease a lot. This setting is called Cross-domain few-shot learning. However, this is very challenging because the target domain is unseen during training. Thus we propose a new setting some unlabelled data from the target domain is provided, which can bridge the gap between the source domain and the target domain. A benchmark for this setting is constructed using DomainNet \cite{peng2018oment}. We come up with a self-supervised learning method to fully utilize the knowledge in the labeled training set and the unlabelled set. Extensive experiments show that our methods outperforms several baseline methods by a large margin. We also carefully design an episodic training pipeline which yields a significant performance boost.

研究の動機と目的

• テストデータが未知のドメインからのものであるというドメインシフトの課題に対処すること。
• 訓練中にターゲットドメインからのラベルなしデータを含めることで、より現実的で実用的な設定を提案すること。
• この新しい設定下での手法の公平な比較を可能にするために、DomainNetにベンチマークを構築すること。
• ラベル付きソースデータとラベルなしターゲットデータの両方を効果的に活用する自己教師あり学習に基づく手法を開発すること。
• ラベルなしデータを用いたエピソードベースの訓練が、未知のドメインへの一般化を著しく向上させることを示すこと。

提案手法

• 2段階の訓練パイプラインを導入：まず、ラベルなしターゲットドメインデータを用いて対照的自己教師あり学習で特徴抽出器を事前学習する。
• 次に、ラベル付きソースドメインデータを用いてエピソードベースの訓練でモデルを微調整し、少数ショット学習エピソード（例：5ウェイ1ショットおよび5ショットタスク）をシミュレートする。
• エピソードベースの訓練中に、少数ショット一般化性能を評価するために平均センターライファーラス分類器を用いる。
• ラベルなしターゲットデータを活用してドメイン不変で一般化可能な特徴を学習し、ソースとターゲット間のドメインシフトを低減する。
• 自己教師あり事前学習とメタラーニングベースの微調整を交互に実行する、頑健な訓練ループを設計する。
• ラベルなしデータセットのサイズを拡大して性能への影響を調査し、より大きなラベルなしデータセットを用いることで一般化性能が向上することを示す。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしターゲットドメインデータは、クロスドメイン設定下での少数ショット一般化を著しく向上させることができるか？
• RQ2 標準的な少数ショット学習と比較して、ラベルなしターゲットデータを用いた自己教師あり事前学習は、ドメインギャップをどの程度低減するか？
• RQ3 ラベルなしデータのサイズは、クロスドメイン少数ショット学習におけるモデル性能にどのような影響を与えるか？
• RQ4 ラベル付きソースデータとラベルなしターゲットデータの両方を用いたエピソードベースの訓練は、ベースラインと比較してより良い一般化を達成するか？
• RQ5 統一されたフレームワークは、自己教師あり学習とメタラーニングを効果的に統合し、クロスドメイン少数ショット適応を実現できるか？

主な発見

• 提案手法は、DomainNetの全ターゲットドメインで平均71.08%の正確度を達成し、最良のベースライン（Baseline1）を7.69ポイント上回った。
• スケッチドメインでは71.51%の正確度を達成し、ベースラインの58.76%よりも顕著に高い。
• アブレーションスタディにより、ラベルなしデータセットのサイズを増やすことでベースライン性能が向上することが確認されたが、提案手法は依然として大幅に上回った。
• エピソードベースの訓練パイプラインは顕著な性能向上をもたらし、少数ショット一般化における有効性を示した。
• ラベルなしターゲットデータを用いた自己教師あり事前学習は、ドメインシフトを効果的に低減し、特徴の一般化を向上させた。
• DomainNetに構築されたベンチマークは、今後のラベルなしデータを伴うクロスドメイン少数ショット学習研究のための信頼性があり現実的な評価基盤を提供している。