[论文解读] Towards Effective Visual Representations for Partial-Label Learning

Shiyu Xia, Jiaqi Lv+3 more|arXiv (Cornell University)|May 10, 2023

Text and Document Classification Technologies被引用 7

一句话总结

本文提出PaPi，一种新颖的局部标签学习框架，通过将噪声较大的对比学习替换为反向引导机制：线性分类器指导原型分类器以提升视觉表征学习。通过将线性分类器的预测与基于原型的相似度得分对齐，PaPi在CIFAR-10、CIFAR-100和Mini-ImageNet上均实现了当前最优性能，无论在均匀分布还是实例相关标签模糊设置下，相比先前方法最高提升4.57%。

ABSTRACT

Under partial-label learning (PLL) where, for each training instance, only a set of ambiguous candidate labels containing the unknown true label is accessible, contrastive learning has recently boosted the performance of PLL on vision tasks, attributed to representations learned by contrasting the same/different classes of entities. Without access to true labels, positive points are predicted using pseudo-labels that are inherently noisy, and negative points often require large batches or momentum encoders, resulting in unreliable similarity information and a high computational overhead. In this paper, we rethink a state-of-the-art contrastive PLL method PiCO[24], inspiring the design of a simple framework termed PaPi (Partial-label learning with a guided Prototypical classifier), which demonstrates significant scope for improvement in representation learning, thus contributing to label disambiguation. PaPi guides the optimization of a prototypical classifier by a linear classifier with which they share the same feature encoder, thus explicitly encouraging the representation to reflect visual similarity between categories. It is also technically appealing, as PaPi requires only a few components in PiCO with the opposite direction of guidance, and directly eliminates the contrastive learning module that would introduce noise and consume computational resources. We empirically demonstrate that PaPi significantly outperforms other PLL methods on various image classification tasks.

研究动机与目标

• 为解决对比学习在局部标签学习中的局限性，即伪正样本存在噪声且计算成本高昂。
• 探究现有方法（如PiCO）的失败模式，特别是‘差教师教好学生’现象。
• 通过将引导方向从原型分类器反转为线性分类器，改进标签消歧，实现更可靠的表征学习。
• 开发一种简单但高效的框架，在消除对比学习的同时保持或提升性能。

提出的方法

• PaPi用反向消歧引导机制替代PiCO中的对比学习模块：线性分类器指导原型分类器，而非反之。
• 通过在低维投影空间中计算到类别原型的距离，使用softmax生成类别概率。
• 利用交叉熵损失将原型分类器的输出与共享编码器的线性分类器的后处理预测对齐。
• 采用mixup数据增强以提升泛化能力并增强对标签模糊的鲁棒性。
• 在线性分类器与原型分类器之间使用共享特征编码器，确保表征学习的一致性。
• 训练目标显式鼓励同一类样本在原型空间中的视觉相似性得以体现。

实验结果

研究问题

• RQ1 在类似PiCO的对比局部标签学习方法中，消歧引导方向是否因‘差教师’效应导致性能次优？
• RQ2 能否通过移除对比学习模块降低噪声与计算成本，同时提升局部标签学习中的表征质量？
• RQ3 在高标签模糊度下，使用线性分类器指导原型分类器是否比反向更有效？
• RQ4 所提出的反向引导机制在均匀与实例相关标签模糊设置下，相较于现有SOTA方法表现如何？
• RQ5 所提框架能否在CIFAR-100-H与Mini-ImageNet等多样化基准上实现良好泛化？

主要发现

• 在均匀模糊设置下，PaPi在CIFAR-100上分别以q=0.1和q=0.2的设置下，分别超越当前SOTA方法3.14%和3.72%。
• 在更具实际意义的实例相关模糊设置下，PaPi在CIFAR-10上提升4.40%，在CIFAR-100上提升4.57%，均超过SOTA方法。
• 消融研究证实，原型对齐损失贡献显著，当其被移除时，CIFAR-100（q=0.2）上性能下降7.19%。
• 在整个训练过程中，线性分类器始终优于原型分类器，验证了反向引导方向的有效性。
• PaPi实现了更紧密的类内聚类与更优的类间区分度，如特征表示的可视化所示。
• 即使不使用mixup增强，PaPi仍表现具有竞争力，但在CIFAR-100（q=0.2）上性能下降1.47%，证实mixup的积极作用。