[论文解读] Unsupervised Few-shot Learning via Self-supervised Training

Zilong Ji, Xiaolong Zou+2 more|arXiv (Cornell University)|Dec 20, 2019

Domain Adaptation and Few-Shot Learning参考文献 33被引用 14

一句话总结

本文提出了一种名为自监督训练的无监督少样本学习（UFLST）的新方法，该方法通过迭代交替进行无标签数据的渐进聚类以生成伪标签的元任务，以及对少样本学习器进行元训练以优化特征表示。该方法在Omniglot和Mini-ImageNet上取得了最先进性能，在Market1501上也取得了具有竞争力的结果，仅使用无标签数据即接近有监督基线模型的性能。

ABSTRACT

Learning from limited exemplars (few-shot learning) is a fundamental, unsolved problem that has been laboriously explored in the machine learning community. However, current few-shot learners are mostly supervised and rely heavily on a large amount of labeled examples. Unsupervised learning is a more natural procedure for cognitive mammals and has produced promising results in many machine learning tasks. In the current study, we develop a method to learn an unsupervised few-shot learner via self-supervised training (UFLST), which can effectively generalize to novel but related classes. The proposed model consists of two alternate processes, progressive clustering and episodic training. The former generates pseudo-labeled training examples for constructing episodic tasks; and the later trains the few-shot learner using the generated episodic tasks which further optimizes the feature representations of data. The two processes facilitate with each other, and eventually produce a high quality few-shot learner. Using the benchmark dataset Omniglot and Mini-ImageNet, we show that our model outperforms other unsupervised few-shot learning methods. Using the benchmark dataset Market1501, we further demonstrate the feasibility of our model to a real-world application on person re-identification.

研究动机与目标

• 为解决在真实场景中标签数据成本高昂且不切实际的少样本学习挑战。
• 开发一种自监督框架，模拟人类的无监督渐进式学习，以实现少样本泛化。
• 将无监督聚类与元训练整合到统一的迭代过程中，联合优化特征表示与任务构建。
• 证明在真实世界应用（如行人重识别）中无监督少样本学习的可行性和有效性。

提出的方法

• 该模型在两个过程之间交替进行：基于学习到的特征对无标签数据进行渐进聚类以分配伪标签，以及使用这些伪标签元任务进行元训练。
• 在每次迭代中，使用特征嵌入生成聚类，并通过从这些聚类中采样支持集和查询集及其伪身份来构建元任务。
• 在这些元任务上训练少样本学习器以改进特征表示，这些表示随后用于下一轮聚类步骤。
• 该框架采用难样本三元组损失进行度量学习，实验证明其在处理噪声或高变化样本时比基于原型的损失更具鲁棒性。
• 该过程重复进行直至收敛，使模型能够在不使用任何真实标签的情况下学习可迁移的、泛化能力强的表示。
• 该方法在Omniglot、Mini-ImageNet和Market1501上进行了评估，采用标准的少样本基准和行人重识别协议。

实验结果

研究问题

• RQ1 无监督聚类与元训练能否联合优化，以在无标签数据下提升少样本泛化能力？
• RQ2 对特征和伪标签的迭代优化如何影响少样本学习性能？
• RQ3 自监督框架能否在少样本学习中实现与完全有监督模型相当的性能？
• RQ4 当无标签样本数量有限时，该方法的鲁棒性如何？
• RQ5 该模型在行人重识别等真实世界应用中，仅依赖极少标注数据时是否能有效泛化？

主要发现

• 在Omniglot数据集上，UFLST结合难样本三元组损失在1-shot 5-way学习中达到97.03%的准确率，在1-shot 20-way学习中达到97.37%，且仅使用无标签数据。
• 在Mini-ImageNet上，UFLST优于其他无监督少样本学习方法，并在性能上接近有监督基线。
• 在Market1501上，UFLST结合难样本三元组损失在1-shot 5-way行人重识别中达到91.4%的准确率，优于低样本设置下的有监督模型。
• 在Omniglot上仅使用25%的无标签数据时，UFLST的性能与其它无监督方法相当，展现出优异的数据效率。
• 难样本三元组损失显著优于基于原型的损失，尤其在行人重识别等噪声大、变化高的场景中表现更优。
• 聚类与元训练之间的迭代交替显著优于独立进行聚类与训练的流水线方法，生成了更优越的特征表示。