[论文解读] Active Learning: Problem Settings and Recent Developments

Hideitsu Hino|arXiv (Cornell University)|Dec 8, 2020

Machine Learning and Algorithms参考文献 96被引用 30

一句话总结

本文综述主动学习的问题设定、获取函数、理论保证、停止准则和应用，强调最近的趋势和实际考虑。

ABSTRACT

In supervised learning, acquiring labeled training data for a predictive model can be very costly, but acquiring a large amount of unlabeled data is often quite easy. Active learning is a method of obtaining predictive models with high precision at a limited cost through the adaptive selection of samples for labeling. This paper explains the basic problem settings of active learning and recent research trends. In particular, research on learning acquisition functions to select samples from the data for labeling, theoretical work on active learning algorithms, and stopping criteria for sequential data acquisition are highlighted. Application examples for material development and measurement are introduced.

研究动机与目标

• 解释主动学习的基本问题设置，以及有监督学习中有标签数据与无标签数据的作用。
• 综述用于选择待标记样本的获取函数和准则。
• 讨论主动学习中的理论保证、样本/标签复杂度以及停止准则。
• 说明在测量和材料开发中的应用，以展示实际相关性。

提出的方法

• 用 X（解释变量）和 Y（响应变量）、假设、损失函数以及版本空间概念来定义主动学习框架。
• 区分基于流和基于池的主动学习设置，并讨论批量选择以提高效率。
• 回顾获取函数，如不确定性、边际、熵、BALD 以及 QBC，并包括它们的理论基础。
• 解释子模性和自适应子模性，作为批量和自适应设置中保证的工具。
• 讨论通过元学习、强化学习和带式 公式来学习获取函数。
• 总结关于样本/标签复杂度的理论结果，以及在何种条件下主动学习能够带来增益。

实验结果

研究问题

• RQ1 在何种问题条件下，主动学习方法相对于被动学习能够降低标签复杂度？
• RQ2 获取函数如何影响在基于流和基于池的设置中的学习效率和有效性？
• RQ3 对于批量和自适应主动学习存在哪些理论保证？子模性概念如何起作用？
• RQ4 获取函数如何通过强化学习、元学习或带宽框架来学习或适应？
• RQ5 在现实应用中，顺序数据获取的实际考虑和停止准则是什么？

主要发现

• 在某些条件和设置下，主动学习可以用更少的带标签样本实现较高的预测精度。
• 基于不确定性、边际、熵以及 BALD 型获取函数是样本选择的核心；它们的有效性取决于数据分布和模型。
• 批量与自适应子模性为贪心或批量选择策略提供近似保证。
• 理论结果显示标签复杂度的改进在可实现与不可实现设置以及噪声条件下各不相同。
• 最近的工作探索通过强化学习、元学习和深度模型来学习获取函数，以应对大规模问题。