[论文解读] Class-Distribution-Aware Pseudo Labeling for Semi-Supervised Multi-Label Learning

Mingkun Xie, Jia‐Hao Xiao+4 more|arXiv (Cornell University)|May 4, 2023

Text and Document Classification Technologies被引用 4

一句话总结

本文提出了一种新颖的半监督多标签学习方法——类别感知伪标签法（Class-Aware Pseudo-Labeling, CAP），通过基于类别分布感知的阈值以类别感知方式分配伪标签。通过从标注数据中估计真实类别分布，并借助正则化学习实现对齐，CAP 显著提升了伪标签的准确性，在基准数据集上实现了最先进（SOTA）的性能表现，尤其在标注数据有限的情况下表现突出。

ABSTRACT

Pseudo-labeling has emerged as a popular and effective approach for utilizing unlabeled data. However, in the context of semi-supervised multi-label learning (SSMLL), conventional pseudo-labeling methods encounter difficulties when dealing with instances associated with multiple labels and an unknown label count. These limitations often result in the introduction of false positive labels or the neglect of true positive ones. To overcome these challenges, this paper proposes a novel solution called Class-Aware Pseudo-Labeling (CAP) that performs pseudo-labeling in a class-aware manner. The proposed approach introduces a regularized learning framework incorporating class-aware thresholds, which effectively control the assignment of positive and negative pseudo-labels for each class. Notably, even with a small proportion of labeled examples, our observations demonstrate that the estimated class distribution serves as a reliable approximation. Motivated by this finding, we develop a class-distribution-aware thresholding strategy to ensure the alignment of pseudo-label distribution with the true distribution. The correctness of the estimated class distribution is theoretically verified, and a generalization error bound is provided for our proposed method. Extensive experiments on multiple benchmark datasets confirm the efficacy of CAP in addressing the challenges of SSMLL problems.

研究动机与目标

• 解决半监督多标签学习（SSMLL）中不可靠伪标签的问题，其中传统基于实例的伪标签方法在面对未知标签数量和类别不平衡时表现不佳。
• 克服现有方法在 SSMLL 设置下性能受限的问题，这些方法因对缺失标签或固定阈值的假设而失效。
• 开发一种有效利用未标注数据的方法，通过估计真实类别分布并将伪标签分布与之对齐。
• 通过使用基于类别的阈值的正则化学习框架，确保在标注样本数量极少时仍具备鲁棒性能。

提出的方法

• 提出一种基于类别的伪标签策略，利用基于估计类别分布的阈值，为每个类别分配正样本和负样本伪标签。
• 引入一种正则化学习框架，根据基于类别的阈值控制每个类别中正样本和负样本伪标签的数量。
• 从标注数据中估计真实类别分布，该方法在理论上有依据，可作为所提观察下的可靠近似。
• 实施一种类别分布感知的阈值策略，以使伪标签分布与真实潜在类别分布对齐。
• 理论分析证明了估计类别分布的正确性，并为 CAP 提供了依赖于伪标签质量的一般化误差界。
• 采用两阶段训练流程：首先从标注数据中估计类别分布，然后应用阈值策略为未标注数据生成伪标签。

实验结果

研究问题

• RQ1 与基于实例的方法相比，基于类别的伪标签策略是否能提升半监督多标签学习的性能？
• RQ2 在多标签设置下，能否从小量标注数据中准确估计真实类别分布？
• RQ3 将伪标签分布与真实类别分布对齐是否能带来更好的泛化性能并减少误报/漏报？
• RQ4 在标签不平衡的情况下，使用可靠区间（由 η₁ 和 η₀ 控制）如何影响模型性能？

主要发现

• CAP 在所有基准数据集（VOC、COCO、NUS）上均达到最先进性能，尤其在标注数据稀缺时显著优于现有方法。
• 在 VOC 和 COCO 数据集上，CAP 取得了最高的 mAP 分数，在低标签率设置下（p=0.05）相比次优基线方法最高提升达 5.2%。
• 该方法在经过充分超参数调优和网络架构修改后，仍优于基于实例的伪标签基线方法以及两种强大的半监督学习方法。
• 在第一个训练阶段，CAP 即已超越其他方法在 CF1 分数上的表现，尽管模型预测结果相同，这表明其在估计类别比例方面具有更优能力。
• 通过 η₁ < 1 舍弃不可靠的正样本伪标签可提升性能，而移除负样本伪标签则会降低性能，原因在于多标签数据中天然存在的正负样本不平衡。
• 理论分析证实了估计类别分布的正确性，并提供了依赖于伪标签质量的一般化误差界。