[论文解读] Fast Rates in Pool-Based Batch Active Learning

Claudio Gentile, Zhilei Wang+1 more|arXiv (Cornell University)|Feb 11, 2022

Machine Learning and Algorithms被引用 4

一句话总结

本文提出一种分阶段贪心算法，用于基于池的批量主动学习，通过在标签查询中平衡信息量与多样性，仅需对数级再训练轮次即可实现极小化最大风险率。该方法通过在指数缩小的边界区域中进行贪心选择实现G-最优设计，即使在噪声数据下也能实现快速收敛，其理论保证与标准统计速率一致，且对批量大小的依赖程度较弱。

ABSTRACT

We consider a batch active learning scenario where the learner adaptively issues batches of points to a labeling oracle. Sampling labels in batches is highly desirable in practice due to the smaller number of interactive rounds with the labeling oracle (often human beings). However, batch active learning typically pays the price of a reduced adaptivity, leading to suboptimal results. In this paper we propose a solution which requires a careful trade off between the informativeness of the queried points and their diversity. We theoretically investigate batch active learning in the practically relevant scenario where the unlabeled pool of data is available beforehand ({\em pool-based} active learning). We analyze a novel stage-wise greedy algorithm and show that, as a function of the label complexity, the excess risk of this algorithm matches the known minimax rates in standard statistical learning settings. Our results also exhibit a mild dependence on the batch size. These are the first theoretical results that employ careful trade offs between informativeness and diversity to rigorously quantify the statistical performance of batch active learning in the pool-based scenario.

研究动机与目标

• 为解决批量主动学习中适应性降低的问题，其中频繁的oracle交互成本高昂，且冗余采样会降低性能。
• 开发一种理论基础坚实的算法，在仅需极少再训练轮次的情况下，保持基于池的主动学习中的高统计效率。
• 在现实的、含噪声的数据条件下，建立批量主动学习的快速收敛速率（匹配极小化最大最优速率）。
• 将理论保证扩展至广义线性模型与非线性函数空间，超越传统线性模型。
• 设计一种能自动适应噪声水平而无需先验知识的方法，确保在不同数据条件下均具备鲁棒性能。

提出的方法

• 该算法采用分阶段贪心策略，通过聚焦于指数缩小的边界空间区域来选择样本批次，从而增强信息量与多样性。
• 在每个阶段，利用贪心近似计算的G-最优设计，以最大化信息增益并最小化冗余。
• 通过在逐步精细化的数据子集上训练的线性分类器序列生成伪标签，提升模型泛化能力。
• 通过动态调整阶段数量，自适应地适应噪声水平，且阶段数始终保持在池大小的对数级。
• 对于恒定批量大小，算法允许批量大小按 $ T^\beta $ 规模扩展，其中 $ \beta < 1 $，在噪声依赖的缩放下仍保持最优速率。
• 理论分析扩展至广义线性模型（如逻辑回归）和非线性函数类，通过VC-子图维数界确保泛化能力。

实验结果

研究问题

• RQ1 在含噪声的基于池的设置中，批量主动学习算法能否实现极小化最大最优超额风险率？
• RQ2 在批量选择中如何平衡信息量与多样性，以避免冗余标注同时保持统计效率？
• RQ3 在实际可实现的学习设置中，收敛速率对批量大小和噪声水平的依赖关系如何？
• RQ4 理论保证能否扩展至广义线性模型与非线性函数空间，超越线性模型？
• RQ5 需要多少次再训练轮次才能实现最优性能？能否在不依赖先验知识的情况下自适应噪声水平？

主要发现

• 所提算法实现的超额风险界与标准统计学习设置中已知的极小化最大最优速率一致，作为请求总标签数的函数。
• 再训练阶段数最多为池大小的对数级，并且自动适应噪声水平，无需事先知晓噪声水平。
• 即使批量大小 $ B $ 保持恒定，当 $ B $ 按 $ T^\beta $ 规模扩展且 $ \beta < 1 $ 时，算法仍保持最优收敛速率，其依赖于噪声水平。
• 对于广义线性模型（如逻辑回归），将注意力限制在指数缩小的边界区域可降低对损失曲率的依赖，从而改善泛化性能。
• 通过VC-子图维数，理论分析扩展至非线性函数类，首次为基于池的批量主动学习提供了此类保证。
• 该方法对批量大小的依赖程度较弱，表明在现实的、含噪声的设置中，批量学习可以兼具高效性与统计最优性。