[论文解读] A Meta-Learning Approach to One-Step Active Learning

Gabriella Contardo, Ludovic Denoyer+1 more|arXiv (Cornell University)|Jun 26, 2017

Machine Learning and Algorithms参考文献 11被引用 20

一句话总结

本文提出了一种基于池采样设置的一次性主动学习元学习框架，其中双向LSTM模型学习在单次内选择最具信息量的样本进行标注，其性能优于随机选择和k-medoids基线方法，尤其在类别多样且数据量较大的数据集上表现更优，表明标注策略在新类别上具备良好的泛化能力。

ABSTRACT

We consider the problem of learning when obtaining the training labels is costly, which is usually tackled in the literature using active-learning techniques. These approaches provide strategies to choose the examples to label before or during training. These strategies are usually based on heuristics or even theoretical measures, but are not learned as they are directly used during training. We design a model which aims at extit{learning active-learning strategies} using a meta-learning setting. More specifically, we consider a pool-based setting, where the system observes all the examples of the dataset of a problem and has to choose the subset of examples to label in a single shot. Experiments show encouraging results.

研究动机与目标

• 为解决机器学习中昂贵的标注成本问题，通过学习主动学习策略而非依赖启发式选择方法。
• 设计一种静态的一次性主动学习方法，从一个完全可观测的数据集中选择子集进行标注，无需迭代的标注器反馈。
• 利用元学习训练一个模型，使其在新类别和问题配置下泛化标注策略。
• 评估所学习的获取策略是否能在低数据量场景下超越传统的启发式方法（如k-medoids和随机选择）。

提出的方法

• 该方法采用元学习范式，模型在少量样本分类问题的分布上进行训练，每个问题包含一个小的已标注集合和一个未标注样本池。
• 双向LSTM处理整个未标注数据集，生成上下文感知的表示，随后选择用于标注的样本。
• 通过策略梯度强化学习优化选择策略，其中奖励为同一问题在验证集上的预测准确率。
• 模型学习识别具有代表性且多样化的样本，以在最小标注量下最大化下游分类器的性能。
• 训练过程通过采样不同类别数（2、4、6）和不同标注样本预算的问题，模拟现实世界中的少样本场景。

实验结果

研究问题

• RQ1 在一次、静态的标注设置下，元学习的主动学习策略是否能优于随机选择和k-medoids等启发式方法？
• RQ2 所学习的获取策略在训练过程中未见过的新类别上泛化能力如何？
• RQ3 当少样本问题的训练分布多样性增加时，元学习策略的性能是否随之提升？
• RQ4 数据集大小和类别数量对所学习标注策略的泛化能力和鲁棒性有何影响？

主要发现

• 在类似MNIST的字母数据集上，所提方法在所有预算设置下均优于两种基线方法，尤其在6类问题上表现更优，表明其在更高复杂度任务上具备更好的泛化能力。
• 在更大的ALOI数据集（1000个类别）上，该模型在所有问题类型（2、4、6类）和标注预算下均持续优于k-medoids，仅在6个样本预算的二分类任务中以0.5%的微小差距落后。
• 该模型在类别多样性更高的问题上表现尤为出色（如6类问题中存在210种组合），表明其相比小规模训练集具有更低的过拟合风险。
• 在字母数据集的低预算二分类问题中，k-medoids基线方法表现优于所提方法，可能是因为训练过程中问题多样性不足导致过拟合。
• 结果表明，元学习策略能很好地泛化到未见过的类别和数据集，尤其当训练分布包含足够多样性时。