[论文解读] Learning to Self-Train for Semi-Supervised Few-Shot Classification

Xinzhe Li, Qianru Sun+5 more|arXiv (Cornell University)|Jun 3, 2019

Domain Adaptation and Few-Shot Learning参考文献 31被引用 84

一句话总结

本文提出 Learning to Self-Train (LST)，一种半监督元学习方法，在少样本任务中对未标记数据进行自标注，并使用一个软加权网络来选择并对伪标签进行加权，以实现鲁棒的自训练。

ABSTRACT

Few-shot classification (FSC) is challenging due to the scarcity of labeled training data (e.g. only one labeled data point per class). Meta-learning has shown to achieve promising results by learning to initialize a classification model for FSC. In this paper we propose a novel semi-supervised meta-learning method called learning to self-train (LST) that leverages unlabeled data and specifically meta-learns how to cherry-pick and label such unsupervised data to further improve performance. To this end, we train the LST model through a large number of semi-supervised few-shot tasks. On each task, we train a few-shot model to predict pseudo labels for unlabeled data, and then iterate the self-training steps on labeled and pseudo-labeled data with each step followed by fine-tuning. We additionally learn a soft weighting network (SWN) to optimize the self-training weights of pseudo labels so that better ones can contribute more to gradient descent optimization. We evaluate our LST method on two ImageNet benchmarks for semi-supervised few-shot classification and achieve large improvements over the state-of-the-art method. Code is at https://github.com/xinzheli1217/learning-to-self-train.

研究动机与目标

• 在标注数据稀缺时，促进用于少样本分类的半监督学习（SSFSC），以利用未标记数据。
• 将自训练整合到元学习中，以快速适应新的少样本任务。
• 通过为伪标签学习软权重并在每一步后使用带标注数据进行再训练来缓解标签噪声漂移。
• 证明 LST 在 miniImageNet 和 tieredImageNet 基准测试上取得了最新的结果。

提出的方法

• 对一个任务从元学习得到的初始化开始，采用内部循环的自训练过程。
• 使用在支持集上训练的任务特定分类器为未标记数据生成伪标签。
• 对一部分伪标签样本进行硬性筛选，并通过元学习的软加权网络（SWN）分配软权重。
• 在带权重的伪标签数据以及带标注的支持数据上重新训练模型，随后仅在带标注数据上进行微调。
• 通过外循环的验证损失对 SWN 和基学习器初始化进行元优化，以改善未来的自训练步骤。

实验结果

研究问题

• RQ1 在半监督少样本分类中，使用伪标签的自训练能否提升性能？
• RQ2 在元学习框架内的迭代自训练中，如何缓解来自嘈杂伪标签的漂移？
• RQ3 对伪标签进行加权机制的元学习（SWN）是否能提升挑选的准确性及对新任务的整体适应性？
• RQ4 在干扰性未标记数据下，递归/自训练步骤的收益与局限性是什么？

主要发现

• LST 在 miniImageNet (1-shot: 70.1%, 5-shot: 78.7%) 和 tieredImageNet (1-shot: 77.7%, 5-shot: 85.2%) 上取得了最优结果。
• 与元学习基线（MTL）相比，LST 在 miniImageNet 上提升了 8.9%（1-shot）和 3.2%（5-shot）。
• 在 tieredImageNet 上，相比基线，LST 提升了 12.1%（1-shot）和 6.6%（5-shot）。
• 对伪标签的硬筛选通常能提升性能，将硬筛选与软加权（SWN）结合可带来进一步收益。
• 递归自训练可以提升性能，尤其是与 SWN 和硬筛选结合时，尽管在某些情境下干扰项可能削弱收益。