[论文解读] Local Label Propagation for Large-Scale Semi-Supervised Learning

Chengxu Zhuang, Xuehao Ding+2 more|arXiv (Cornell University)|May 28, 2019

Domain Adaptation and Few-Shot Learning参考文献 34被引用 7

一句话总结

该论文提出局部标签传播（LLP），一种可扩展的半监督学习方法，通过训练深度神经网络将有标签和无标签数据嵌入共享的潜在空间，然后利用局部几何结构传播伪标签——优先考虑邻近性和局部密度——同时联合优化分类准确率和聚类紧密度。LLP在不同训练设置下均实现了ImageNet上的最先进性能，并在Places205数据集上展现出良好的迁移学习能力。

ABSTRACT

A significant issue in training deep neural networks to solve supervised learning tasks is the need for large numbers of labelled datapoints. The goal of semi-supervised learning is to leverage ubiquitous unlabelled data, together with small quantities of labelled data, to achieve high task performance. Though substantial recent progress has been made in developing semi-supervised algorithms that are effective for comparatively small datasets, many of these techniques do not scale readily to the large (unlaballed) datasets characteristic of real-world applications. In this paper we introduce a novel approach to scalable semi-supervised learning, called Local Label Propagation (LLP). Extending ideas from recent work on unsupervised embedding learning, LLP first embeds datapoints, labelled and otherwise, in a common latent space using a deep neural network. It then propagates pseudolabels from known to unknown datapoints in a manner that depends on the local geometry of the embedding, taking into account both inter-point distance and local data density as a weighting on propagation likelihood. The parameters of the deep embedding are then trained to simultaneously maximize pseudolabel categorization performance as well as a metric of the clustering of datapoints within each psuedo-label group, iteratively alternating stages of network training and label propagation. We illustrate the utility of the LLP method on the ImageNet dataset, achieving results that outperform previous state-of-the-art scalable semi-supervised learning algorithms by large margins, consistently across a wide variety of training regimes. We also show that the feature representation learned with LLP transfers well to scene recognition in the Places 205 dataset.

研究动机与目标

• 解决现有半监督学习方法依赖全局相似性计算所导致的可扩展性限制，这些方法在大规模数据集上扩展性差。
• 开发一种方法，有效利用大规模学习场景（如ImageNet）中稀疏的有标签数据和丰富的无标签数据。
• 通过在嵌入空间中联合优化伪标签数据的分类性能和聚类紧凑性，提升表征学习效果。
• 实现所学特征在目标检测以外的下游任务中的强迁移能力，例如场景识别。

提出的方法

• 训练深度神经网络，将有标签和无标签数据嵌入共享的低维潜在空间。
• 基于局部邻域结构，从已知样本向未知样本传播标签，权重由点间距离和局部数据密度决定。
• 使用密度加权的概率模型调节传播可能性，优先选择已知标签密度较高的区域。
• 通过双重目标优化网络：(1) 对伪标签使用交叉熵损失（对真实标签赋予更高权重），(2) 使用聚类损失，促使具有相同伪标签的点在嵌入空间中聚集。
• 迭代交替进行标签传播和网络训练，以优化表示和伪标签分配。
• 使用特征记忆库和最近邻推理机制，实现在训练过程中的高效评估。

实验结果

研究问题

• RQ1 能否有效利用学习到的嵌入空间中的局部几何结构，将标签传播扩展到ImageNet等大规模数据集？
• RQ2 在标签传播中引入局部密度后，与基于全局相似性的方法相比，性能提升程度如何？
• RQ3 联合优化分类与聚类目标在多大程度上提升了表征质量与下游任务的准确率？
• RQ4 LLP训练的特征在对象分类以外的任务（如场景识别）中泛化能力如何？

主要发现

• LLP在所有测试的训练设置下均实现了ImageNet上的最先进性能，包括有标签样本极少的情况。
• 该方法在ImageNet上显著优于先前的可扩展半监督学习算法，如[29, 18, 24, 16, 6, 22]中的方法。
• LLP特征能有效迁移到Places205数据集，提升场景识别性能。
• 消融研究证实，局部邻域选择（K）、置信度加权、联合损失和密度加权传播均对性能至关重要。
• 所学嵌入能捕捉多模态类别中的有意义子簇（例如，“拉布拉多”被划分为“黑色”和“黄色”子类型），即使原始标注中未包含这些子类标签。
• 该方法在小样本子集（50类，每类50张图像）上仍保持强性能，尽管其设计为局部方法，但与全局传播方法相比仍具竞争力。