[论文解读] Noisy Batch Active Learning with Deterministic Annealing

Gaurav Gupta, Anit Kumar Sahu+1 more|arXiv (Cornell University)|Sep 27, 2019

Machine Learning and Algorithms参考文献 33被引用 6

一句话总结

本文提出一种噪声批处理主动学习方法，结合重要性采样、聚类和确定性退火，以在早期训练阶段模型不确定性较高的情况下，选择多样且信息量丰富的样本。该方法引入去噪层以提升对标签噪声的鲁棒性，在 MNIST、SVHN、CIFAR10 和 EMNIST 上于干净标签和噪声标签条件下均实现了最先进性能。

ABSTRACT

We study the problem of training machine learning models incrementally with batches of samples annotated with noisy oracles. We select each batch of samples that are important and also diverse via clustering and importance sampling. More importantly, we incorporate model uncertainty into the sampling probability to compensate for poor estimation of the importance scores when the training data is too small to build a meaningful model. Experiments on benchmark image classification datasets (MNIST, SVHN, CIFAR10, and EMNIST) show improvement over existing active learning strategies. We introduce an extra denoising layer to deep networks to make active learning robust to label noises and show significant improvements.

研究动机与目标

• 解决主动学习中的冷启动问题，即初始模型过于不确定，难以可靠指导样本选择。
• 克服因训练数据稀缺导致重要性评分估计不佳而引发的批处理主动学习性能下降问题。
• 提升对真实世界场景（如众包）中常见的一致性差或系统性偏差的标签噪声源的鲁棒性。
• 开发一种批处理获取策略，通过聚类与重要性采样相结合，同时保证样本的多样性与信息量。
• 在深度神经网络中引入可学习的去噪层，以减轻主动学习过程中标签噪声的影响。

提出的方法

• 利用聚类确保所选批次的多样性，通过将未标注样本分组并选择代表性样本实现。
• 基于模型不确定性应用重要性采样，优先选择既具信息量又不确定的样本。
• 将确定性退火融入采样概率中，以平滑选择过程，并在模型估计不可靠时降低方差。
• 通过加权采样策略结合聚类与重要性采样，平衡多样性与信息量。
• 在神经网络架构中引入可学习的去噪层，以在训练过程中过滤标签噪声。
• 端到端训练含去噪层的模型，使其能够在主动学习迭代过程中学习纠正噪声标签。

实验结果

研究问题

• RQ1 如何使批处理主动学习在训练数据极少的冷启动阶段对模型不确定性保持鲁棒？
• RQ2 通过确定性退火引入模型不确定性后，在主动学习早期阶段是否能显著提升样本选择质量？
• RQ3 深度网络中的去噪层是否能有效缓解主动学习中由标签噪声引起的表现退化？
• RQ4 在不同标签噪声水平下，所提方法与现有最先进主动学习基线相比，在准确率与鲁棒性方面表现如何？
• RQ5 聚类、重要性采样与不确定性感知采样三者结合是否优于现有批处理获取策略？

主要发现

• 所提方法 DeAn（去噪与退火）在 MNIST、SVHN、CIFAR10 和 EMNIST 上于干净标签与噪声标签条件下均取得最高准确率。
• 在 CIFAR10 上，当标签噪声率为 20%（ε=0.2）时，DeAn 在 32,000 个样本后达到 50.43% 的 top-1 准确率，优于次优方法 VAAL 超过 2.5 个百分点。
• 在无噪声设置下，DeAn 在所有数据集与所有获取阶段均匹配或超越所有基线方法。
• 在噪声设置下，去噪层的引入使平均性能提升 1.5–2.5 个百分点，证明其有效性。
• 在 CIFAR100 上，DeAn 在所有噪声水平（ε=0.1, 0.2, 0.3, 0.4）下均持续优于 BALD、Coreset、Entropy 和 VAAL，32,000 个样本时最高提升达 4.5%。
• 该方法有效缓解了冷启动问题，表现为相比基于不确定性的基线方法，早期获取轮次中收敛更快、准确率更高。