[論文レビュー] Diversity Helps: Unsupervised Few-shot Learning via Distribution Shift-based Data Augmentation

Tiexin Qin, Wenbin Li+2 more|arXiv (Cornell University)|Apr 13, 2020

Domain Adaptation and Few-Shot Learning参考文献 37被引用数 19

ひとこと要約

本稿では、非対称的データ拡張を用いてサポート集合とクエリ集合間の分布多様性を高めることで、モデルの一般化性能を向上させる、新しい教師なし少数 shot ラーニングフレームワーク ULDA を提案する。サポート集合とクエリ集合に異なる拡張手法を適用することで分布シフトを誘発し、過学習を顕著に低減。ラベル付き補助データを必要とせず、Omniglot および miniImageNet で最先端の性能を達成する。

ABSTRACT

Few-shot learning aims to learn a new concept when only a few training examples are available, which has been extensively explored in recent years. However, most of the current works heavily rely on a large-scale labeled auxiliary set to train their models in an episodic-training paradigm. Such a kind of supervised setting basically limits the widespread use of few-shot learning algorithms. Instead, in this paper, we develop a novel framework called Unsupervised Few-shot Learning via Distribution Shift-based Data Augmentation (ULDA), which pays attention to the distribution diversity inside each constructed pretext few-shot task when using data augmentation. Importantly, we highlight the value and importance of the distribution diversity in the augmentation-based pretext few-shot tasks, which can effectively alleviate the overfitting problem and make the few-shot model learn more robust feature representations. In ULDA, we systemically investigate the effects of different augmentation techniques and propose to strengthen the distribution diversity (or difference) between the query set and support set in each few-shot task, by augmenting these two sets diversely (i.e., distribution shifting). In this way, even incorporated with simple augmentation techniques (e.g., random crop, color jittering, or rotation), our ULDA can produce a significant improvement. In the experiments, few-shot models learned by ULDA can achieve superior generalization performance and obtain state-of-the-art results in a variety of established few-shot learning tasks on Omniglot and miniImageNet. The source code is available in https://github.com/WonderSeven/ULDA.

研究の動機と目的

• サポート集合とクエリ集合に同一の拡張処理が施されることで生じる教師なし少数 shot ラーニングにおける過学習問題を解消すること。
• 大規模なラベル付き補助データセットへの依存を低減し、ラベルなしデータからの有効な学習を可能にすること。
• 拡張されたサポート集合とクエリ集合間の分布シフトを体系的に増大させることで、モデルの一般化性能を向上させること。
• データ拡張における分布多様性が、頑健な少数 shot 表現学習の鍵要因であることを示すこと。
• 複雑なアーキテクチャや教師信号を必要とせず、標準的な少数 shot ベンチマークで性能を向上させるシンプルで効果的なフレームワークの開発

提案手法

• 各少数 shot タスクにおいて、サポート集合とクエリ集合に異なるデータ拡張手法を適用することで分布シフトを誘発する ULDA フレームワークを導入する。
• ランダムクロップ、カラージッタリング、回転、および新規手法である DSTIM（インスタンス単位のモodulationを用いた動的スタイル転送）を含む多様な拡張戦略を用い、分布差を拡大する。
• 非対称的拡張を実装：サポート集合とクエリ集合に異なる手法を適用することで、モデルが拡張されたパターンを記憶してしまうのを防ぐ。
• KLダイバージェンスと Fréchet Inception Distance (FID) を用いて分布シフトを測定し、高い分布差が一般化性能の向上と相関することを示す。
• エンドツーエンドで ProtoNets や MetaOptNet といった既存の少数 shot ラーナーと ULDA を統合し、プラグアンドプレイによる性能向上を実現する。
• DSTIM の α といったハイパーパramータを最適化することで拡張戦略を調整し、さまざまな設定でのロバストネスを検証する。

実験結果

リサーチクエスチョン

• RQ1 拡張されたサポート集合とクエリ集合間の分布多様性を高めることで、教師なし少数 shot ラーニングにおける一般化性能が向上するか？
• RQ2 サポート集合とクエリ集合に異なる拡張手法を適用する非対称的データ拡張は、対称的拡張と比較して過学習を低減するか？
• RQ3 KLダイバージェンスおよび FID で測定される分布シフトの程度と、下流の少数 shot 分類精度の相関関係は何か？
• RQ4 AA（AutoAugment）を用いたようなシンプルで教師なしのフレームワーク ULDA は、大規模なラベル付き補助データに依存せずに最先端の性能を達成できるか？
• RQ5 どの拡張戦略やその組み合わせが、少数 shot ラーニングタスクにおける最も効果的な分布シフトと一般化をもたらすか？

主な発見

• ULDA は 5-way 1-shot の miniImageNet で 39.64% の精度を達成し、先行する教師なし手法を上回り、このベンチマークで新たな最先端性能を樹立した。
• クエリ集合に AA（AutoAugment）を、サポート集合に TA（従来の拡張）を適用した場合、5-way 1-shot で 35.37% の精度を示し、対称的拡張（TA+TA）の 2.79% 上回った。
• クエリに AA、サポートに R（回転）を適用した組み合わせでは、5-way 1-shot で 39.18% の精度を達成し、KLダイバージェンス 0.73、FID 183.06 と、強い分布シフトを示した。
• 最も多様な拡張戦略の組み合わせ（クエリに AA+TIM_sub、サポートに R+TA+TIM_add）を用いた場合、ULDA は 5-way 1-shot で 39.64%（±0.60）および 5-way 5-shot で 54.37%（±0.58）の精度を達成し、一貫した向上を示した。
• t-SNE 視覚化により、ULDA は対称的拡張と比較して、サポート集合とクエリ集合間の特徴表現がより多様で重複が少ないことを確認した。
• DSTIM の α 値が異なる設定においても、性能の変動が 1% 未満に抑えられ、安定的かつ信頼性の高い挙動を示した。