[论文解读] Progressive Purification for Instance-Dependent Partial Label Learning

Ning Xu, Biao Liu+3 more|arXiv (Cornell University)|Jun 2, 2022

Text and Document Classification Technologies被引用 5

一句话总结

本文提出 Pop，一种用于实例相关部分标签学习的新型渐进净化框架，通过迭代优化候选标签集并提升模型可靠性。理论上，Pop 在温和假设下保证收敛至贝叶斯最优分类器；在实践中，通过迭代净化机制增强现有实例无关部分标签学习损失函数，在基准数据集和真实世界数据集上均实现了最先进性能。

ABSTRACT

Partial label learning (PLL) aims to train multiclass classifiers from the examples each annotated with a set of candidate labels where a fixed but unknown candidate label is correct. In the last few years, the instance-independent generation process of candidate labels has been extensively studied, on the basis of which many theoretical advances have been made in PLL. Nevertheless, the candidate labels are always instance-dependent in practice and there is no theoretical guarantee that the model trained on the instance-dependent PLL examples can converge to an ideal one. In this paper, a theoretically grounded and practically effective approach named POP, i.e. PrOgressive Purification for instance-dependent partial label learning, is proposed. Specifically, POP updates the learning model and purifies each candidate label set progressively in every epoch. Theoretically, we prove that POP enlarges the region appropriately fast where the model is reliable, and eventually approximates the Bayes optimal classifier with mild assumptions. Technically, POP is flexible with arbitrary PLL losses and could improve the performance of the previous PLL losses in the instance-dependent case. Experiments on the benchmark datasets and the real-world datasets validate the effectiveness of the proposed method.

研究动机与目标

• 解决实例相关部分标签学习（ID-PLL）中缺乏理论保证的问题，其中候选标签依赖于输入特征。
• 开发一种可在 ID-PLL 设置下迭代净化候选标签集并提升模型可靠性的方法。
• 提供理论依据，证明使用所提方法训练的模型在温和假设下可收敛至贝叶斯最优分类器。
• 设计一种与现有实例无关部分标签学习损失函数兼容的灵活框架，以提升 ID-PLL 场景下的性能。
• 在包含合成 ID 损坏的基准数据集和真实世界部分标签数据集上验证该方法的有效性。

提出的方法

• Pop 采用两阶段训练策略：先进行初始热身阶段，使用原始候选标签，随后在后续训练周期中执行渐进净化。
• 在每个周期中，基于模型的置信度预测对候选标签集进行净化，利用纯净度集合准则识别并移除错误标签。
• 模型在净化后的标签集上重新训练，逐步扩大预测可靠的区域。
• 理论分析表明，Pop 以有前景的速率扩大可靠预测区域，确保在温和假设下收敛至贝叶斯最优分类器。
• 该框架与损失函数无关，可与任何现有实例无关部分标签学习损失函数集成。
• 通过基于置信度的候选标签过滤实现净化，分类器迭代更新以优化预测。

实验结果

研究问题

• RQ1 能否为实例相关部分标签学习开发一种具有理论基础的方法，确保收敛至贝叶斯最优分类器？
• RQ2 如何在训练过程中逐步净化候选标签集，以提升模型可靠性与性能？
• RQ3 当与现有实例无关部分标签学习方法（如 Proden、RC、CC、Lw、Cavl、Clpl）集成时，所提框架是否保持鲁棒性与性能增益？
• RQ4 渐进净化机制在合成与真实世界部分标签数据集上的分类准确率提升程度如何？
• RQ5 该方法对超参数选择的敏感性如何？在不同配置下是否保持稳定性能？

主要发现

• Pop 在所有由实例相关标签生成过程污染的基准数据集上表现最佳，显著优于所有基线方法。
• Pop 的性能增益在不同候选标签数量下保持稳定，表明对标签集大小具有鲁棒性。
• 在真实世界数据集上，Pop 在除两个数据集（Valen on MSRCv2 和 RC on Soccer Player）外的所有数据集中均取得最佳结果，展现出强大的泛化能力。
• 当与现有实例无关部分标签学习方法（如 Proden、RC、CC、Lw、Cavl、Clpl）集成时，其衍生方法（如 Proden + Pop）始终优于原始方法。
• 该方法对超参数设置具有高度鲁棒性，在广泛配置范围内表现稳定，敏感性分析已验证此结论。
• 消融研究证实，Pop 的性能并非依赖于热身阶段，核心优势源于渐进净化机制。