[论文解读] Learning with a Drifting Target Concept

Steve Hanneke, Varun Kanade+1 more|arXiv (Cornell University)|May 20, 2015

Machine Learning and Algorithms参考文献 14被引用 4

一句话总结

本文提出了一种多项式时间算法，用于学习具有漂移目标概念的问题，其中真实概念随时间以有界速率变化。该算法实现了与计算上低效方法相当的误差率界限，特别是在均匀分布下的线性分类器场景中表现优异，并引入了一种子主动学习变体，可适应未知的漂移速率，同时最小化标签查询次数。

ABSTRACT

We study the problem of learning in the presence of a drifting target concept. Specifically, we provide bounds on the error rate at a given time, given a learner with access to a history of independent samples labeled according to a target concept that can change on each round. One of our main contributions is a refinement of the best previous results for polynomial-time algorithms for the space of linear separators under a uniform distribution. We also provide general results for an algorithm capable of adapting to a variable rate of drift of the target concept. Some of the results also describe an active learning variant of this setting, and provide bounds on the number of queries for the labels of points in the sequence sufficient to obtain the stated bounds on the error rates.

研究动机与目标

• 解决目标概念随时间演变的学习挑战，这是现实应用（如人脸识别）中的常见问题。
• 弥合计算高效算法与计算低效方法在漂移概念设置下理论上可实现的最优误差率之间的差距。
• 开发一种无需事先知晓漂移率序列 $\Delta_t$ 的自适应算法。
• 将框架扩展至主动学习，使算法能够有策略地查询标签以降低标注成本。
• 建立误差率和可靠性能所需标签查询次数的理论界限。

提出的方法

• 提出一种新颖的主动学习算法，将时间划分为区间，并维护一组假设集 $V_k$ 以追踪演变中的概念。
• 采用基于置信度的选择机制，仅在当前假设对真实概念不确定时请求标签，依据分歧区域进行判断。
• 通过在多个时间区间上应用并集界限来控制误差概率，利用集中不等式和基于 VC 维的泛化界限。
• 使用改进的感知机式更新规则递归地细化假设集，以在长时间内保持低误差。
• 引入一种漂移自适应策略，基于观测数据动态调整，无需显式知晓 $\Delta_t$。
• 结合几何概率与维度 $d$ 和漂移参数 $\Delta$ 的对数尺度，推导出预期错误数和标签查询数的界限。

实验结果

研究问题

• RQ1 是否能够设计一种多项式时间算法，在漂移概念设置下实现与计算上低效方法相当的误差率界限？
• RQ2 是否可能设计一种算法，可适应变化的漂移速率 $\Delta_t$，而无需事先知晓这些值？
• RQ3 在具有概念漂移的主动学习设置中，维持低误差率所需的最少标签查询次数是多少？
• RQ4 当漂移序列 $\Delta_t$ 满足何种条件时，错误数的次线性增长成为可能？
• RQ5 概念漂移、维度 $d$ 和标签查询效率之间的相互作用如何影响学习性能？

主要发现

• 所提算法的期望误差率为 $O\left(\sqrt{d\Delta} \cdot \mathrm{Log}(d/\Delta) \cdot \mathrm{Log}(1/(d\Delta)) \cdot T\right)$，与低效方法的理论界限一致。
• 期望标签查询数被限制在 $O\left(\theta_{\mathbb{C}}\left(\sqrt{d\Delta} \cdot \mathrm{Log}(1/(d\Delta))\right) \cdot \sqrt{d\Delta} \cdot \mathrm{Log}(d/\Delta) \cdot \mathrm{Log}(1/(d\Delta)) \cdot T\right)$，表明标签使用效率高。
• 在均匀分布下的同质线性分类器情形中，该算法实现了近乎最优的误差界限，解决了高效学习中漂移问题长期悬而未决的开放性问题。
• 该方法对未知漂移速率具有自适应性，因其无需预先知晓 $\Delta_t$，但仍能实现接近最优的性能。
• 分析表明，当且仅当漂移序列 $\Delta_t$ 满足与 $\sqrt{d\Delta}$ 相关的可求和条件时，错误数的次线性增长才可能实现。
• 主动学习变体通过聚焦于分歧区域的样本显著减少了标签请求，且在误差和查询效率方面均具有理论保证。