[论文解读] New Analysis and Algorithm for Learning with Drifting Distributions

Mehryar Mohri, Andrés Muñoz Medina|arXiv (Cornell University)|May 19, 2012

Machine Learning and Algorithms参考文献 21被引用 5

一句话总结

本文提出了一种新颖的基于差异的分析方法与算法，用于在批量学习设置下处理分布漂移问题，用一种更紧致、与假设和损失函数相关的差异度量替代了传统的 L₁ 距离。该方法通过 Rademacher 复杂度改进了泛化界，并将最优凸组合假设形式化为一个简单的二次规划问题，在合成数据的初步实验中表现出优越性能。

ABSTRACT

We present a new analysis of the problem of learning with drifting distributions in the batch setting using the notion of discrepancy. We prove learning bounds based on the Rademacher complexity of the hypothesis set and the discrepancy of distributions both for a drifting PAC scenario and a tracking scenario. Our bounds are always tighter and in some cases substantially improve upon previous ones based on the $L_1$ distance. We also present a generalization of the standard on-line to batch conversion to the drifting scenario in terms of the discrepancy and arbitrary convex combinations of hypotheses. We introduce a new algorithm exploiting these learning guarantees, which we show can be formulated as a simple QP. Finally, we report the results of preliminary experiments demonstrating the benefits of this algorithm.

研究动机与目标

• 解决在批量学习中使用 L₁ 距离衡量分布漂移时，对泛化界带来的局限性。
• 通过差异度量引入假设集和损失函数，以获得更紧致、更具信息量的学习保证。
• 利用差异度量与凸组合，将在线到批量的转换推广至漂移环境。
• 设计一种实用算法，通过二次规划最小化基于差异的泛化界。
• 在合成漂移回归任务上，通过实验验证所提算法的性能。

提出的方法

• 本文定义了一种依赖于假设集和损失函数的分布间差异度量，推广了先前领域自适应中的概念。
• 推导了基于 Rademacher 复杂度与差异度量的新泛化界，适用于漂移 PAC 模型和追踪场景。
• 通过将元算法形式化为选择凸组合假设以最小化基于差异的界，推广了在线到批量的转换。
• 证明了选择最优凸组合的优化问题是一个简单的二次规划（QP）。
• 在时间变化的高斯分布与旋转权重向量的回归设置下，使用合成数据对算法进行了评估。
• 差异度量从无标签样本中估计，且假设分布周期性稳定，以实现高效估计。

实验结果

研究问题

• RQ1 在分布漂移学习中，差异度量是否能提供比 L₁ 距离更紧致、更具信息量的分布发散度量？
• RQ2 在存在分布漂移的批量学习中，Rademacher 复杂度与差异度量如何协同改进泛化界？
• RQ3 能否通过差异度量与凸组合，将在线到批量的转换推广至漂移场景？
• RQ4 用于选择最优假设组合的优化问题是否具有可解性，且能否高效求解？
• RQ5 在合成漂移数据上，所提算法是否在实践中优于均匀平均与固定窗口平均？

主要发现

• 所提出的基于差异的泛化界比以往基于 L₁ 的界更紧致，且基于 Rademacher 复杂度推导，使得证明更简洁明了。
• 与忽略这些因素的 L₁ 距离不同，该差异度量同时考虑了假设集和损失函数，因而能更准确地从有限样本中估计。
• 通过二次规划最小化基于差异的泛化界所得到的算法，在合成数据上优于均匀平均与固定窗口平均，即使在误差随样本量增长（因损失尺度增大）时仍表现更优。
• 通过大小为 n 的无标签样本，差异度量可实现 O(1/√n) 误差范围内的估计，且当分布保持在可识别的周期内稳定时，估计更可靠。
• 在长期分布稳定的情境下（如垃圾邮件过滤或情感分析），该方法具有实际应用价值，因为可按周期收集无标签样本。
• 该理论框架为在相关模型（如 [13] 中的基于不一致的漂移模型）中进一步研究基于差异的分析提供了启发。