[论文解读] Minimax Active Learning

Sayna Ebrahimi, William Gan+6 more|arXiv (Cornell University)|Dec 18, 2020

Machine Learning and Algorithms参考文献 68被引用 16

一句话总结

本文提出最小最大主动学习（Minimax Active Learning, MAL），一种基于池的半监督主动学习方法，通过在极小化极大框架内联合训练特征编码器以最小化未标记数据的熵，同时分类器最大化其熵，从而结合不确定性与多样性。MAL 在图像分类与语义分割基准上优于最先进方法，通过对抗性训练联合利用任务感知不确定性与基于已标注性的多样性。

ABSTRACT

Active learning aims to develop label-efficient algorithms by querying the most representative samples to be labeled by a human annotator. Current active learning techniques either rely on model uncertainty to select the most uncertain samples or use clustering or reconstruction to choose the most diverse set of unlabeled examples. While uncertainty-based strategies are susceptible to outliers, solely relying on sample diversity does not capture the information available on the main task. In this work, we develop a semi-supervised minimax entropy-based active learning algorithm that leverages both uncertainty and diversity in an adversarial manner. Our model consists of an entropy minimizing feature encoding network followed by an entropy maximizing classification layer. This minimax formulation reduces the distribution gap between the labeled/unlabeled data, while a discriminator is simultaneously trained to distinguish the labeled/unlabeled data. The highest entropy samples from the classifier that the discriminator predicts as unlabeled are selected for labeling. We evaluate our method on various image classification and semantic segmentation benchmark datasets and show superior performance over the state-of-the-art methods.

研究动机与目标

• 通过将不确定性与多样性整合到统一框架中，解决仅使用不确定性的主动学习与仅使用多样性的主动学习的局限性。
• 在现实世界设置中降低标签效率成本，这些设置通常存在数据不平衡以及对少数类表现不佳的问题。
• 通过结合已标注数据与未标注数据的半监督学习与对抗性表征学习，提升主动学习性能。
• 开发一种混合采样策略，同时选择与已标注数据具有多样性的样本以及相对于任务原型具有不确定性的样本。
• 证明将半监督学习与已标注性对抗判别相结合，可显著优于监督或纯无监督基线方法。

提出的方法

• 训练特征编码器 F 以最小化未标记特征的熵，促进未标记数据的紧凑聚类。
• 使用基于余弦相似度的分类器 C，在未标记数据上最大化熵，鼓励样本远离类别原型。
• 训练判别器 D 以区分已标注与未标记特征，为每个样本学习一个已标注性分数。
• 选择分类器熵高且判别器 D 对其为未标记样本具有高置信度的样本，结合不确定性与多样性。
• 通过极小化极大目标联合优化整个系统：F 最小化熵，C 最大化熵，D 区分已标注与未标记数据。
• 通过联合训练实现半监督学习：在已标注数据上使用交叉熵损失，在未标注数据上使用熵最小化损失。

实验结果

研究问题

• RQ1 在主动学习中同时结合不确定性和多样性，是否能优于单独使用任一准则？
• RQ2 特征编码器与判别器之间的对抗性训练，如何改善主动学习中的表征学习？
• RQ3 在未标记数据上使用熵最小化的半监督学习，是否能显著提升主动学习性能，优于监督基线？
• RQ4 一种同时考虑已标注性（多样性）与分类器熵（不确定性）的混合采样策略，是否能优于纯不确定性或纯多样性采样？
• RQ5 所提出方法对主干网络架构的变化（如 ResNet18 与 VGG16）是否具有鲁棒性？

主要发现

• 在 ImageNet 上，MAL 在 20% 已标注数据下达到 52.9% 的 top-1 准确率，显著优于 SSL-Div（50.0%）与 SSL-Unc（49.5%）变体。
• 在 BDD100K 上，MAL 在 25% 已标注数据下达到 45.3% 的 mIoU，超过 SSL-Div（43.1%）与 SSL-Unc（42.8%）超过 2.2 个百分点。
• 使用 VGG16-BN 的 MAL 在 CIFAR100 上于 8% 已标注数据下达到 49.5% 准确率，优于 VAAL（47.9%）1.6 个百分点。
• 使用 ResNet18 的 MAL 在 CIFAR100 上于 8% 已标注数据下达到 43.4% 准确率，优于 VAAL（40.9%）2.5 个百分点。
• 消融研究显示，结合对抗性已标注性预测的半监督学习带来最大的性能提升，证实了联合优化的有效性。
• 该方法对主干网络架构选择具有鲁棒性，在 CIFAR100 上对 ResNet18 与 VGG16-BN 均持续优于 VAAL。