[论文解读] Semi-Supervised Recognition under a Noisy and Fine-grained Dataset

Cheng Cui, Zhi Ye+8 more|arXiv (Cornell University)|Jun 18, 2020

Advanced Neural Network Applications参考文献 9被引用 4

一句话总结

本文提出了一种在噪声大且标注数据有限的条件下进行细粒度鸟类识别的半监督方法，结合了伪标签法与混合通用型和细粒度识别模型。通过使用 PaddleClas 进行模型训练，并利用伪标签挖掘方法引入未标注数据，该方法在 FGVC7 竞赛中获得第三名，证明了其在处理细微视觉差异和数据噪声方面的有效性。

ABSTRACT

Simi-Supervised Recognition Challenge-FGVC7 is a challenging fine-grained recognition competition. One of the difficulties of this competition is how to use unlabeled data. We adopted pseudo-tag data mining to increase the amount of training data. The other one is how to identify similar birds with a very small difference, especially those have a relatively tiny main-body in examples. We combined generic image recognition and fine-grained image recognition method to solve the problem. All generic image recognition models were training using PaddleClas . Using the combination of two different ways of deep recognition models, we finally won the third place in the competition.

研究动机与目标

• 解决在标注数据极少且噪声水平高的情况下进行细粒度鸟类识别的挑战。
• 通过在半监督设置下有效利用大规模未标注数据，提升模型泛化能力。
• 克服因鸟类物种间视觉相似、类间差异微小而带来的识别困难。
• 整合通用图像识别与细粒度识别技术，以增强特征判别能力。
• 在标注数据有限且存在噪声的真实竞赛环境中实现高性能表现。

提出的方法

• 采用伪标签法挖掘并整合未标注数据至训练过程，从而扩大有效训练数据规模。
• 将预训练的通用图像识别模型与细粒度识别架构相结合，以增强特征学习能力。
• 使用 PaddleClas（一个计算机视觉深度学习库）训练所有通用模型。
• 采用双流模型结构，联合优化通用视觉特征与细粒度视觉特征。
• 应用数据增强与自训练策略，提升对噪声样本的鲁棒性。
• 利用模型置信度分数在训练过程中筛选并选择高质量伪标签。

实验结果

研究问题

• RQ1 在半监督设置下，如何有效利用未标注数据进行细粒度识别？
• RQ2 结合通用识别与细粒度识别模型对在噪声数据下的性能有何影响？
• RQ3 如何利用深度学习可靠地区分鸟类物种间微小的类间差异？
• RQ4 伪标签质量在半监督细粒度分类中起到何种作用？
• RQ5 在低监督、高噪声场景下，混合模型架构是否优于单一架构模型？

主要发现

• 所提方法在 FGVC7 竞赛中获得第三名，证明了其在挑战性条件下的强大性能。
• 伪标签法通过引入高置信度预测结果显著提升了模型准确率，扩展了有效训练集。
• 结合通用识别与细粒度识别组件的混合模型架构优于单一架构基线模型。
• 使用 PaddleClas 有效实现了通用模型的高效稳定训练，对整体性能有积极贡献。
• 该方法对噪声标注以及鸟类物种间微小的视觉差异表现出良好鲁棒性。
• 高置信度伪标签在不引入误差传播的前提下，对维持性能提升至关重要。