[论文解读] Learning Active Learning from Data

Ksenia Konyushkova, Raphael Sznitman+1 more|Bern Open Repository and Information System (University of Bern)|Mar 9, 2017

Machine Learning and Algorithms被引用 138

一句话总结

一种基于数据驱动的主动学习方法，它学习一个回归器来预测未标记样本的预期误差降低，从而实现可针对任务定制的查询策略，这些策略可从合成数据或有限的真实数据中学习，并在跨领域中适用。

ABSTRACT

In this paper, we suggest a novel data-driven approach to active learning (AL). The key idea is to train a regressor that predicts the expected error reduction for a candidate sample in a particular learning state. By formulating the query selection procedure as a regression problem we are not restricted to working with existing AL heuristics; instead, we learn strategies based on experience from previous AL outcomes. We show that a strategy can be learnt either from simple synthetic 2D datasets or from a subset of domain-specific data. Our method yields strategies that work well on real data from a wide range of domains.

研究动机与目标

• 激励并将主动学习形式化为一个回归问题，以预测标签效率提升。
• 开发基于蒙特卡洛的数据收集方法，以训练一个回归器，将分类器状态和样本特征映射到预期的误差下降。
• 提供两种LAL策略（独立的和迭代的），可超越手工设计的AL启发式方法的一般化。
• 证明LAL可以在合成数据或较小的特定应用数据集上训练，并迁移到真实领域。

提出的方法

• 将学习主动学习（LAL）表述为对标注候选点后预期误差下降的回归。
• 将分类器状态特征（如概率估计、类别比例、交叉验证准确度、树深等）和样本特征（如预测的类别概率、接近度度量等）作为输入给回归器g，后者预测 delta = 测试损失的变化。
• 通过蒙特卡洛仿真收集训练数据：在L_tau上训练f，评估损失，添加一个带标签点x，重新训练，测量delta，组装xi = [phi, psi] 和 delta。
• 训练一个回归器g，将xi映射到delta，从而实现贪心选择x*，使g(xi)最大。
• 提出两种策略：LALindependent（使用离线数据蒙特卡洛，随机未标记选择）和 LALiterative（模拟AL偏差以反映序列选择）。
• 在冷启动（合成2D数据）和暖启动（应用特定数据）设置中使用随机森林作为f和g进行评估；并与Rs、Us、Kapoor和ALBE基线进行比较。

实验结果

研究问题

• RQ1 回归器是否能够学习预测在不同数据集上标记一个候选样本所带来的潜在泛化误差下降？
• RQ2 基于数据驱动的LAL策略从合成数据或小型初始数据集向真实领域、特定任务的迁移能力如何？
• RQ3 在多个领域中，基于数据驱动的LAL策略是否优于传统的AL启发式（如不确定性采样）和元AL基线？
• RQ4 将AL建模为独立与迭代（考虑采样偏差）对性能的影响是什么？
• RQ5 离线LAL训练与在线查询之间的计算权衡是什么？

主要发现

• LAL策略在合成数据和真实数据集上均优于不确定性采样及若干基线。
• 在简单的2D数据上训练的LAL能有效泛化到复杂的高维真实领域（例如医疗成像、金融、生物学、物理学）。
• LAL迭代变体通常表现最佳，尽管LAL独立版本仍有竞争力且在线速度更快。
• 暖启动、应用特定的LAL在合理的离线训练时间内就能超越基线，而当标记数据稀缺时，ALBE 可能表现不佳。
• 学习到的策略对分类器类型和特征选择具有鲁棒性，经过离线训练后，在线阶段速度很快。