[论文解读] Generative Adversarial Active Learning

Jia-Jie Zhu, José Maurício S. Bento|arXiv (Cornell University)|Feb 25, 2017

Machine Learning and Algorithms参考文献 22被引用 130

一句话总结

GAAL 使用生成对抗网络按需合成信息性训练查询以加速学习，有时甚至优于基于池的主动学习，甚至优于完全监督模型。

ABSTRACT

We propose a new active learning by query synthesis approach using Generative Adversarial Networks (GAN). Different from regular active learning, the resulting algorithm adaptively synthesizes training instances for querying to increase learning speed. We generate queries according to the uncertainty principle, but our idea can work with other active learning principles. We report results from various numerical experiments to demonstrate the effectiveness the proposed approach. In some settings, the proposed algorithm outperforms traditional pool-based approaches. To the best our knowledge, this is the first active learning work using GAN.

研究动机与目标

• 通过使用深度生成模型实现查询合成来降低主动学习中的标注复杂度。
• 开发一个框架（GAAL），自适应地生成待查询并标注的训练实例。
• 在图像分类任务上演示该方法，并与基于池的方法和自学学习基线进行比较。
• 研究 GAAL 在分布漂移下的行为，并探索如多样性和探索策略等潜在改进。

提出的方法

• 在未标记数据上训练一个生成对抗网络，以学习生成器 G 和判别器 D。
• 初始化一个小的带标签数据集，在当前带标签数据上训练一个线性 SVM 分类器。
• 在每次迭代中，求解 min_z ||W^T phi(G(z)) + b|| 以通过将样本推向决策边界来生成查询。
• 对 G(z) 样本查询人类/oracle 的标签并将它们加入训练集，然后重新训练分类器。
• 可选地用一个 CNN 特征提取器替换 phi，以实现端到端的深度学习管道。
• 讨论潜在的扩展，例如增加多样性或使用不同的主动学习标准。

实验结果

研究问题

• RQ1 GAAL 是否能够生成信息性强的合成查询，从而提升相比基于池的主动学习的学习效率？
• RQ2 在有限标注预算下，GAAL 与标准的基于 GAN 的数据增强或随机采样相比如何？
• RQ3 引入探索或多样性是否会提升 GAAL 的性能以及对训练和测试数据分布差异的鲁棒性？

主要发现

• GAAL 在某些设置下可以达到比完全监督学习和某些基于池的策略更好的准确率。
• 在 MNIST→USPS 转移实验中，GAAL 在多次运行中均优于 SVM 主动学习和随机采样基线。
• 在 MNIST 情况下，train/test 分布相同，GAAL 的准确率起初可能超过监督学习，但在约 100 个样本后可能下降，因为生成了大量边界附近的相似样本。
• 在 CIFAR-10 二元任务中，标注者观察到更多低质量的生成样本，凸显了高维数据的可扩展性挑战。
• 混合的开发性-探索性方案（定期随机采样）可以优于单独使用 GAAL 或随机采样，表明多样性有益。
• GAAL 展示了有竞争力的性能，并可为未来的基于 GAN 的主动学习研究提供参考，包括与自学学习的潜在整合。