[论文解读] PAL : Pretext-based Active Learning

Shubhang Bhatnagar, Sachin Goyal+2 more|arXiv (Cornell University)|Oct 29, 2020

Machine Learning and Algorithms被引用 5

一句话总结

PAL 提出了一种基于先验任务的主动学习方法，通过使用通过自监督旋转预测训练的独立评分网络来评估样本新颖性，结合多任务学习与基于子查询的多样性，提升查询质量。该方法在干净标签下实现具有竞争力的准确率，在标签噪声下显著优于先前方法，同时对低资源类别也表现出良好的适应性。

ABSTRACT

The goal of pool-based active learning is to judiciously select a fixed-sized subset of unlabeled samples from a pool to query an oracle for their labels, in order to maximize the accuracy of a supervised learner. However, the unsaid requirement that the oracle should always assign correct labels is unreasonable for most situations. We propose an active learning technique for deep neural networks that is more robust to mislabeling than the previously proposed techniques. Previous techniques rely on the task network itself to estimate the novelty of the unlabeled samples, but learning the task (generalization) and selecting samples (out-of-distribution detection) can be conflicting goals. We use a separate network to score the unlabeled samples for selection. The scoring network relies on self-supervision for modeling the distribution of the labeled samples to reduce the dependency on potentially noisy labels. To counter the paucity of data, we also deploy another head on the scoring network for regularization via multi-task learning and use an unusual self-balancing hybrid scoring function. Furthermore, we divide each query into sub-queries before labeling to ensure that the query has diverse samples. In addition to having a higher tolerance to mislabeling of samples by the oracle, the resultant technique also produces competitive accuracy in the absence of label noise. The technique also handles the introduction of new classes on-the-fly well by temporarily increasing the sampling rate of these classes.

研究动机与目标

• 为解决真实世界应用中主动学习对标签噪声的脆弱性问题，其中人工标注者（如放射科医生）可能错误标注样本。
• 通过引入专用评分网络进行样本选择，将任务学习目标与不确定性估计解耦。
• 通过自监督先验任务（如图像旋转预测）建模数据分布，减少对潜在噪声标签的依赖。
• 通过将每个查询划分为子查询，使其逐步更具差异性，从而提升查询的多样性与覆盖度。
• 通过动态提高低资源类别的采样率，实现对初始数据偏差的高效学习。

提出的方法

• 使用自监督先验任务（即预测图像的随机旋转）在标注数据上训练独立评分网络，以估计样本新颖性，而无需依赖潜在噪声标签。
• 评分网络采用多任务学习，附加一个分类头，实现自监督头与监督头之间的正则化与相互校正。
• 混合评分函数结合来自自监督头与分类头的不确定性，并通过自平衡机制动态调整两者贡献。
• 将查询划分为 K 个子查询，每个后续子查询选择与之前所有子查询均具有新颖性的样本，确保完整查询内的多样性。
• 在子查询之间仅调整自监督头，避免在完整查询确定前产生不必要的标注成本。
• 每个迭代仅训练一次主干网络，评分网络仅在标注数据上更新，最大限度降低计算开销。

实验结果

研究问题

• RQ1 自监督先验任务是否能在保持高性能的同时，降低主动学习对噪声标签的依赖？
• RQ2 结合自监督与监督的不确定性估计在多大程度上提升对标签噪声的鲁棒性？
• RQ3 基于子查询的多样性在多大程度上改善了查询覆盖度与模型泛化能力？
• RQ4 该方法在处理初始数据偏差（如类别缺失或低资源类别）方面表现如何？
• RQ5 具有自平衡权重的混合评分函数是否优于单一来源的不确定性估计？

主要发现

• PAL 在基准图像识别与分割数据集上即使在标签干净时也实现了具有竞争力的准确率，性能与最先进方法相当，且无需昂贵的训练方案。
• 在部分标签噪声条件下，PAL 显著优于现有主动学习方法，展现出对人工标注者误标行为的强鲁棒性。
• 消融实验表明，自监督、监督与多样性三个组件均对性能有显著贡献，完整方法达到最高准确率。
• 使用 t-SNE 的可视化显示，基于子查询的多样性使未标注数据的覆盖更均匀，减少了查询分布中的聚集与空隙。
• PAL 能有效识别并过采样初始数据池中低资源类别，快速提升这些类别的性能，之后再恢复为均衡采样。
• 当将评分网络主干从 ResNet-18 切换至 VGG-16 时，该方法性能下降极小，表明其对网络架构具有鲁棒性。