[论文解读] Combating Noise: Semi-supervised Learning by Region Uncertainty Quantification

Zhenyu Wang, Yali Li+2 more|arXiv (Cornell University)|Nov 1, 2021

Anomaly Detection Techniques and Applications参考文献 27被引用 9

一句话总结

本文提出了一种抗噪声的半监督目标检测方法，通过量化伪标签区域的区域不确定性，减轻噪声标注带来的性能下降。通过引入一种考虑不确定性的软目标，并促进多峰概率分布，该方法提升了泛化能力，在 PASCAL VOC 上超越监督基线 6.2% AP，在 MS COCO 上超越 4.2%。

ABSTRACT

Semi-supervised learning aims to leverage a large amount of unlabeled data for performance boosting. Existing works primarily focus on image classification. In this paper, we delve into semi-supervised learning for object detection, where labeled data are more labor-intensive to collect. Current methods are easily distracted by noisy regions generated by pseudo labels. To combat the noisy labeling, we propose noise-resistant semi-supervised learning by quantifying the region uncertainty. We first investigate the adverse effects brought by different forms of noise associated with pseudo labels. Then we propose to quantify the uncertainty of regions by identifying the noise-resistant properties of regions over different strengths. By importing the region uncertainty quantification and promoting multipeak probability distribution output, we introduce uncertainty into training and further achieve noise-resistant learning. Experiments on both PASCAL VOC and MS COCO demonstrate the extraordinary performance of our method.

研究动机与目标

• 为解决半监督目标检测中伪标签噪声带来的挑战，该挑战会抑制未标注数据带来的性能提升。
• 研究不同类型的噪声——漏检真实框、分类错误和分配错误——对区域提议和模型泛化能力的影响。
• 开发一种区域不确定性量化度量，反映对伪标签噪声的敏感性，以提升模型鲁棒性。
• 设计一种将不确定性融入软目标的学习目标，降低在不确定区域上的过度自信。
• 通过消除类别间的竞争并支持多峰概率分布，提升模型泛化能力。

提出的方法

• 提出一种基于区域提议对伪标签噪声强度变化敏感度的区域不确定性量化度量 $ u(\beta) $。
• 使用动态 $ \beta $ 自适应缩放不确定性估计，随训练时间推移而增加，以反映模型置信度的提升和对噪声暴露的累积。
• 通过将 $ u(\beta) $ 用于加权交叉熵损失，构建一种考虑不确定性的软目标，在优化过程中降低噪声区域的影响。
• 消除类别间的竞争效应，以支持多峰概率分布，防止在不确定预测上产生过度自信。
• 将考虑不确定性的软目标与焦点损失结合，进一步抑制噪声预测并增强难例挖掘。
• 采用教师-学生框架，其中教师模型生成伪标签，学生模型在有标签和无标签数据上均接受考虑不确定性的监督进行训练。

实验结果

研究问题

• RQ1 伪标签中的哪些类型噪声最严重地降低半监督目标检测的性能？
• RQ2 如何以一种反映对伪标签噪声敏感度的方式量化区域级不确定性？
• RQ3 在学习目标中引入不确定性是否能提升对检测任务中伪标签噪声的鲁棒性？
• RQ4 与标准交叉熵相比，允许多峰概率分布是否能减轻对噪声预测的过拟合？
• RQ5 不确定性量化如何影响模型在 PASCAL VOC 和 MS COCO 等标准基准上的泛化能力和性能表现？

主要发现

• 所提方法在 MS COCO 上达到 49.3% AP 和 80.6% AP50，比监督基线高出 4.2%。
• 在 PASCAL VOC 上，该方法相比监督基线将 AP 提升了 6.2%，表明其在噪声未标注数据上具有强大的泛化能力。
• 考虑不确定性的软目标使 AP50 提升 3.0%，AP75 提升超过 5%，表明定位鲁棒性得到增强。
• 可视化结果表明，干净的区域提议其 $ u(\beta) $ 值始终低于噪声区域，验证了该度量能有效区分可靠与不可靠区域。
• 该方法对超参数变化具有鲁棒性，在 $ C $、$ \Delta_f $ 和 $ q $ 的不同设置下性能保持稳定。
• 移除类别间竞争并支持多峰分布后，不确定区域中真实类别的概率提高，从而同时改善了分类与定位性能。