[论文解读] Beyond Disagreement-based Agnostic Active Learning

Chicheng Zhang, Kamalika Chaudhuri|arXiv (Cornell University)|Jul 10, 2014

Machine Learning and Algorithms参考文献 21被引用 38

一句话总结

本文提出了一种新型主动学习算法，用于对抗性二分类问题，在不依赖于数据或假设类别的严格假设条件下，通过利用具有保证误差的置信度评分预测器，实现了优于基于分歧的方法的标签复杂度。该方法通过将一致主动学习的一般性约化转换为置信度评分预测，减少了标签查询次数，并在可实现和对抗性设置下均提供了优于先前工作的理论保证，尤其在对数凹或Tsybakov噪声条件下适用于线性分类器的情况。

ABSTRACT

We study agnostic active learning, where the goal is to learn a classifier in a pre-specified hypothesis class interactively with as few label queries as possible, while making no assumptions on the true function generating the labels. The main algorithms for this problem are {\em{disagreement-based active learning}}, which has a high label requirement, and {\em{margin-based active learning}}, which only applies to fairly restricted settings. A major challenge is to find an algorithm which achieves better label complexity, is consistent in an agnostic setting, and applies to general classification problems. In this paper, we provide such an algorithm. Our solution is based on two novel contributions -- a reduction from consistent active learning to confidence-rated prediction with guaranteed error, and a novel confidence-rated predictor.

研究动机与目标

• 解决在数据或假设类别无严格假设条件下实现对抗性主动学习中低标签复杂度的开放问题。
• 设计一种适用于任意假设类别和数据分布的通用主动学习算法，且在对抗性设置下保持一致性。
• 克服基于分歧的主动学习方法对标签数量的高要求，同时保持理论一致性和误差保证。
• 提出一种具有保证误差的新型置信度评分预测器，以最小化可实现情况下的弃权率，并扩展至对抗性设置。
• 建立优于现有方法的理论标签复杂度边界，尤其在对数凹和Tsybakov噪声条件下适用于线性分类。

提出的方法

• 引入一种从具保证误差的一致主动学习到置信度评分预测的一般性约化，使此类预测器可被用于主动学习框架。
• 设计一种新型置信度评分预测器，保证目标误差率并最小化可实现情况下的弃权率，其理论基础基于VC维和误差界。
• 利用置信度评分预测器指导主动学习：仅在预测器不确定时查询标签，确保误差控制和标签效率。
• 通过在误差级别 $\epsilon_k$ 上的递归细化过程形式化标签复杂度边界，基于置信度阈值进行自适应查询调度。
• 通过利用已知结构特性对复杂度项 $\phi(\cdot)$ 进行有界，将该框架应用于特定设置——在对数凹和Tsybakov噪声分布下的线性分类器。
• 通过分析各细化层级上误差项的总和，推导出紧致的标签复杂度边界，表明其优于基于分歧的方法。

实验结果

研究问题

• RQ1 能否设计一种通用的主动学习算法，使其在对抗性设置下保持一致性，并且标签复杂度优于基于分歧的方法？
• RQ2 如何利用具有保证误差的置信度评分预测来构建一致且高效的主动学习算法？
• RQ3 所提方法在一般假设类别下的可实现和对抗性设置中的标签复杂度是多少？
• RQ4 在对数凹和Tsybakov噪声条件下，该方法的标签复杂度与先前工作相比如何？
• RQ5 所提方法能否在可实现情况下实现最优弃权率，同时在对抗性情况下保持误差保证？

主要发现

• 在Tsybakov噪声条件下（参数 $\kappa > 1$），所提算法的标签复杂度边界为 $\tilde{O}\left(\sup_{k} \frac{\phi(C_0 \epsilon_k^{1/\kappa}, \epsilon_k/256)}{\epsilon_k^{1/\kappa}} \epsilon^{2/\kappa - 2} d \ln \frac{1}{\epsilon} \right)$，优于基于分歧的方法。
• 在各向同性对数凹分布下的线性分类中，标签复杂度为 $O\left(\ln\frac{\epsilon + \nu^*(D)}{\epsilon} \left(\ln\frac{1}{\epsilon} + \frac{+\nu^*(D)^2}{\epsilon^2}\right) \left(d\ln\frac{\epsilon + \nu^*(D)}{\epsilon} + \ln\frac{1}{\delta}\right)\right)$，与先前工作的已知边界一致，但通过通用框架推导得出。
• 置信度评分预测器在可实现情况下为最优，其在保证给定误差率的所有预测器中弃权率最小。
• 该算法在对抗性设置下保持一致性，确保最终分类器的误差在假设类中最佳分类器的 $\epsilon$ 范围内。
• 在一般设置下，该算法的标签复杂度严格优于基于分歧的主动学习方法，表现为 $\epsilon$ 的指数项在渐近意义下得到改进。
• 该框架可推广至任意假设类别和数据分布，为对抗性主动学习提供统一的理论保证方法。