[论文解读] Active Learning Using Smooth Relative Regret Approximations with Applications

Nir Ailon, Ron Begleiter+1 more|arXiv (Cornell University)|Oct 10, 2011

Machine Learning and Algorithms参考文献 66被引用 11

一句话总结

本文提出了一种新颖的主动学习框架——平滑相对遗憾近似（SRRA），通过使用有偏采样估计假设与关键假设之间的相对遗憾，实现了查询效率的提升。该方法在传统基于分歧系数的方法失效的排序学习与半监督聚类问题中，实现了更优的标签复杂度边界，其核心在于确保在ε倍ℓ₁分歧距离范围内保持一致的估计精度。

ABSTRACT

The disagreement coefficient of Hanneke has become a central data independent invariant in proving active learning rates. It has been shown in various ways that a concept class with low complexity together with a bound on the disagreement coefficient at an optimal solution allows active learning rates that are superior to passive learning ones. We present a different tool for pool based active learning which follows from the existence of a certain uniform version of low disagreement coefficient, but is not equivalent to it. In fact, we present two fundamental active learning problems of significant interest for which our approach allows nontrivial active learning bounds. However, any general purpose method relying on the disagreement coefficient bounds only fails to guarantee any useful bounds for these problems. The tool we use is based on the learner's ability to compute an estimator of the difference between the loss of any hypotheses and some fixed "pivotal" hypothesis to within an absolute error of at most $\eps$ times the

研究动机与目标

• 解决现有基于分歧系数的方法无法提供有效边界的根本性主动学习问题——即从成对偏好学习排序与带附加信息的聚类。
• 开发一种新的理论框架，使这些问题的主动学习具备可证明的低标签复杂度，且独立于分歧系数的局限性。
• 建立均匀估计相对遗憾与主动学习中快速收敛之间的联系，引入一种新工具——平滑相对遗憾近似（SRRA）。
• 证明基于SRRA的算法在VC维有界且具有几何结构的问题中，即使分歧系数分析失效，也能实现接近最优的查询复杂度。
• 将框架扩展至学习排序中的基于特征的表示，实现几何感知的主动学习。

提出的方法

• 提出SRRA方法，用于估计任意假设与固定关键假设之间损失（遗憾）的差异，其误差受ε倍于假设间ℓ₁距离（分歧）的约束。
• 将(ε, μ)-SRRA定义为函数f，其对真实相对遗憾的近似误差在ε⋅(dist(ϕ(h), ϕ(h′)) + μ)范围内，确保所有假设的均匀估计。
• 设计一种序列主动学习算法，每轮迭代中选择相对于当前关键假设最小化估计损失差异函数的假设。
• 利用重要性加权采样技术高效构建SRRA估计器，利用特征向量与模型参数的有界性。
• 证明在SRRA条件下，算法每轮迭代可将过剩风险减少常数倍，收敛至(1+O(ε))ν + O(ε^i)⋅初始误差。
• 将框架应用于SVMRank与带附加信息的聚类，表明多项式时间算法可通过O(n⋅poly(log n, ε⁻¹))次查询实现(1+ε)-近似解。

实验结果

研究问题

• RQ1 能否开发一种新的主动学习框架，为分歧系数失效的排序学习与半监督聚类问题提供非平凡的标签复杂度边界？
• RQ2 通过SRRA实现相对遗憾的均匀估计，是否能带来比仅依赖分歧系数边界的现有方法更快的收敛速度与更低的查询复杂度？
• RQ3 在具有关系或等价关系输出的问题中，假设类与数据结构需满足何种条件，才能实现SRRA估计器的高效构建？
• RQ4 如何将特征向量中的几何信息整合进SRRA框架，以提升排序任务中主动学习的性能？
• RQ5 SRRA框架能否扩展至其他关系学习问题（如层次聚类或度量学习），并实现更高的查询效率？

主要发现

• 在VC维与分歧系数的温和假设下，SRRA框架使主动学习算法实现(1+O(ε))ν + O(ε^i)⋅初始误差的收敛，其中ν为最优误差。
• 在从成对偏好学习排序的问题中，该方法通过O(n⋅poly(log n, ε⁻¹))次偏好查询实现(1+ε)-近似解，显著优于先前边界。
• 在等价类有界的半监督聚类中，基于SRRA的算法提供了分歧系数分析失效时仍有效的非平凡标签复杂度边界。
• 该框架通过在有界特征与权重范数下利用重要性采样构建ε-SRRA估计器，使SVMRank中可实现近似最优解的多项式时间计算。
• 该方法避免依赖于缩小版本空间，因此对假设空间估计中的计算误差具有鲁棒性。
• 本文识别出基于分歧系数分析的根本局限：其无法为排序学习与带附加信息的聚类提供有效边界，而SRRA成功克服了这一缺陷。