[论文解读] Progressive Cluster Purification for Unsupervised Feature Learning

Yifei Zhang, Chang Liu+4 more|arXiv (Cornell University)|Jul 6, 2020

Domain Adaptation and Few-Shot Learning参考文献 34被引用 5

一句话总结

本文提出了一种名为渐进式聚类净化（Progressive Cluster Purification, PCP）的新颖无监督特征学习方法，通过渐进式扩展聚类和噪声过滤，迭代优化伪标签，从而提升基于聚类的表征学习性能。通过随时间减少聚类数量并利用不可靠和不稳定的样本过滤来净化聚类，PCP在ImageNet-100、CIFAR-100以及目标检测基准上均取得了最先进性能，显著优于MoCo和AND等方法。

ABSTRACT

In unsupervised feature learning, sample specificity based methods ignore the inter-class information, which deteriorates the discriminative capability of representation models. Clustering based methods are error-prone to explore the complete class boundary information due to the inevitable class inconsistent samples in each cluster. In this work, we propose a novel clustering based method, which, by iteratively excluding class inconsistent samples during progressive cluster formation, alleviates the impact of noise samples in a simple-yet-effective manner. Our approach, referred to as Progressive Cluster Purification (PCP), implements progressive clustering by gradually reducing the number of clusters during training, while the sizes of clusters continuously expand consistently with the growth of model representation capability. With a well-designed cluster purification mechanism, it further purifies clusters by filtering noise samples which facilitate the subsequent feature learning by utilizing the refined clusters as pseudo-labels. Experiments on commonly used benchmarks demonstrate that the proposed PCP improves baseline method with significant margins. Our code will be available at https://github.com/zhangyifei0115/PCP.

研究动机与目标

• 为解决基于聚类的无监督特征学习方法中聚类内存在类别不一致样本（噪声）的问题。
• 通过在迭代聚类过程中系统性地减少噪声影响，提升特征判别能力，且无需依赖聚类数量的先验知识。
• 开发一种自引导的渐进式训练策略，提升模型表征能力，同时保持稳定可靠的伪标签。
• 在通用分类与细粒度分类任务中，超越现有方法如DeepCluster、Instance Recognition和Anchor Neighbourhood Discovery。

提出的方法

• 渐进式聚类（Progressive Clustering, PC）从样本数量逐步减少聚类数至真实类别数，使聚类规模随模型表征能力的增长而同步扩展。
• 聚类净化（Cluster Purification, CP）采用两阶段噪声过滤：不可靠样本过滤通过移除远离聚类中心的实例实现，不稳定样本过滤则利用投票机制重新分配不一致样本。
• 引入预热训练阶段，以防止网络在早期聚类阶段过度关注低级特征。
• 利用净化后聚类生成的伪标签，以自监督方式训练特征提取器，逐步优化特征表示。
• 该方法采用ResNet18或AlexNet主干网络端到端实现，并通过在最后一层特征上使用线性分类和k-NN进行评估。
• 该框架在多轮迭代中重复应用，每轮基于更新后的特征重新计算聚类分配。

实验结果

研究问题

• RQ1 渐进式聚类扩展是否能通过减少聚类中的噪声污染，提升无监督特征的判别质量？
• RQ2 通过不可靠和不稳定的样本过滤实现的迭代聚类净化，如何增强伪标签的可靠性？
• RQ3 PCP在标准基准上相较于现有基于聚类的无监督学习方法（如DeepCluster和Instance Recognition）的性能提升程度如何？
• RQ4 所提出方法在下游任务（如目标检测和细粒度分类）中是否具备良好的泛化能力？

主要发现

• 在使用AlexNet的ImageNet-100上，PCP通过k-NN获得50.7%的top-1准确率，通过线性分类器获得56.9%的准确率，分别优于MoCo 0.6%和1.5%。
• 在CIFAR-100上，经过5轮训练后，PCP达到87.3%的准确率，超越AND 1%，在无监督设置下展现出强大的泛化能力。
• 在CUB-200-2011的细粒度分类任务中，PCP达到16.9%的准确率，优于IR 5.3%、DC 3.8%和AND 2.5%。
• 在PASCAL VOC 2007的目标检测任务中，PCP达到39.8%的mAP，优于AND 2.9%，展现出向下游任务迁移的强大能力。
• 可视化结果表明，PCP特征更稳定且与前景物体更一致，而IR和DC特征包含更多背景噪声。
• 该方法对初始化具有鲁棒性，且无需预先知晓聚类数量，可实现可靠高效的训练。