[论文解读] Noise-Tolerant Interactive Learning from Pairwise Comparisons with Near-Minimal Label Complexity

Yichong Xu, Hongyang Zhang+3 more|arXiv (Cornell University)|Apr 19, 2017

Machine Learning and Algorithms被引用 2

一句话总结

本文提出了一种噪声鲁棒的交互式学习算法，利用噪声标签和成对比较预言机以最小化查询复杂度。通过将学习问题简化为阈值函数估计，该方法在Tsybakov噪声和对抗性噪声模型下，对两种预言机均实现了近乎最优的标签查询复杂度和总查询复杂度。

ABSTRACT

We study the problem of interactively learning a binary classifier using noisy labeling and pairwise comparison oracles, where the comparison oracle answers which one in the given two instances is more likely to be positive. Learning from such oracles has multiple applications where obtaining direct labels is harder but pairwise comparisons are easier, and the algorithm can leverage both types of oracles. In this paper, we attempt to characterize how the access to an easier comparison oracle helps in improving the label and total query complexity. We show that the comparison oracle reduces the learning problem to that of learning a threshold function. We then present an algorithm that interactively queries the label and comparison oracles and we characterize its query complexity under Tsybakov and adversarial noise conditions for the comparison and labeling oracles. Our lower bounds show that our label and total query complexity is almost optimal.

研究动机与目标

• 研究结合噪声标签和成对比较预言机的交互式二分类问题。
• 理解访问比较预言机如何降低标签查询复杂度和总查询复杂度。
• 在Tsybakov噪声和对抗性噪声条件下，对两种预言机的查询复杂度进行表征。
• 开发一种在噪声环境下实现近乎最优查询复杂度的算法。

提出的方法

• 该算法将二分类问题简化为使用标签查询和比较查询学习阈值函数。
• 它自适应地查询标签预言机以获取样本标签，并查询比较预言机以判断两个样本中哪一个更可能是正样本。
• 该方法分析了在Tsybakov噪声条件下两种预言机的查询复杂度，其中噪声率随距离决策边界的距离呈多项式衰减。
• 同时考虑了对抗性噪声，即噪声为最坏情况但有界的情形，并在该设定下推导了复杂度界。
• 理论分析建立了下界，表明所提算法的查询复杂度近乎最优。
• 该方法结合了主动学习原则与噪声鲁棒技术，在反馈不完美时仍能保持高效性。

实验结果

研究问题

• RQ1 在噪声交互式学习中，访问成对比较预言机如何降低标签查询复杂度和总查询复杂度？
• RQ2 在Tsybakov噪声条件下，对标签和比较预言机的理论查询复杂度是多少？
• RQ3 该算法在对抗性噪声条件下能否实现近乎最优的查询复杂度？
• RQ4 比较预言机在多大程度上可以替代直接标注以减轻查询负担？
• RQ5 将问题简化为阈值函数学习如何提升整体学习效率？

主要发现

• 在Tsybakov噪声条件下，所提算法对标签和比较预言机均实现了近乎最小的标签查询复杂度和总查询复杂度。
• 比较预言机将学习问题简化为阈值函数估计，从而支持高效的查询策略。
• 在对抗性噪声下，该算法保持了强健的查询复杂度界，表现出良好的鲁棒性。
• 理论下界证实，标签查询复杂度和总查询复杂度均近乎最优。
• 该方法有效平衡了对标签和比较的依赖，在容忍噪声的同时最小化了总查询次数。