[论文解读] Adaptively Learning the Crowd Kernel

Omer Tamuz, Ce Liu+3 more|arXiv (Cornell University)|May 5, 2011

Advanced Bandit Algorithms Research参考文献 13被引用 127

一句话总结

本文提出一种主动学习算法，通过自适应选择三元组查询（'物体a与b或c更相似？'），从众包反馈中高效学习人类标注的相似性矩阵（即'群体核'）。通过使用信息论准则选择最具信息量的查询，该方法在极少人工标注的情况下实现高质量的核近似，从而在无需机器特征或领域专业知识的前提下，有效支持SVM分类和视觉搜索等下游任务。

ABSTRACT

We introduce an algorithm that, given n objects, learns a similarity matrix over all n^2 pairs, from crowdsourced data alone. The algorithm samples responses to adaptively chosen triplet-based relative-similarity queries. Each query has the form "is object 'a' more similar to 'b' or to 'c'?" and is chosen to be maximally informative given the preceding responses. The output is an embedding of the objects into Euclidean space (like MDS); we refer to this as the "crowd kernel." SVMs reveal that the crowd kernel captures prominent and subtle features across a number of domains, such as "is striped" among neckties and "vowel vs. consonant" among letters.

研究动机与目标

• 开发一种从最少众包反馈中学习人类标注相似性矩阵（即'群体核'）的方法。
• 通过完全依赖人类感知判断，消除对机器提取特征的依赖。
• 通过自适应选择最具信息量的三元组查询，降低标注成本和人工疲劳。
• 实现在真实世界领域中无需专家特征工程的核方法学习的实际部署。
• 证明人类学习的核能够捕捉细微的感知特征（例如领结中的'条纹'、字母中的'元音与辅音'区别），而这些特征可能被当前的机器特征检测器所忽略。

提出的方法

• 该方法采用基于信息论的主动学习策略，选择能最大化关于底层相似性矩阵信息增益的三元组查询（'a是否比b或c更相似？'）。
• 将相似性矩阵建模为非凸核近似，在特定假设下进行优化，以确保收敛性和有效性。
• 算法维护相似性矩阵的概率估计，并选择能最小化核估计不确定性的问题。
• 通过核矩阵近似将对象嵌入欧几里得空间，支持多维缩放（MDS）和SVM等下游应用。
• 在使用亚马逊Mechanical Turk众包数据的端到端视觉搜索系统中评估该方法。
• 通过反馈迭代更新核，查询选择由跟踪收敛进度的势函数指导。

实验结果

研究问题

• RQ1 自适应选择三元组查询是否能显著减少学习高质量相似性矩阵所需的人工标注比较数量？
• RQ2 完全基于人类判断学习的核（无需机器特征）是否能捕捉到当前特征检测器难以建模的细微感知差异？
• RQ3 在分类和可视化等下游任务中，群体核的性能与机器核相比如何？
• RQ4 查询选择策略对收敛速度和标注效率有何影响？
• RQ5 该系统能否推广到真实世界领域（如产品搜索），其中人类对相似性的感知至关重要？

主要发现

• 自适应查询选择策略相比随机或均匀采样显著降低了标注成本，在极少人工输入下实现高质量的核估计。
• 群体核成功捕捉了如领结中的'条纹'和字母中的'元音与辅音'等感知特征，这些特征难以被标准机器特征编码。
• 基于学习到的群体核训练的SVM在分类任务中表现优异，证明了该核的判别能力。
• 该方法每扩展一个新对象的平均成本约为0.15美元，使其在大规模部署中具有成本效益。
• 该系统支持交互式视觉搜索与浏览，如在433个亚马逊地板瓷砖数据集上的演示所示，用户可基于相似性进行导航。
• 理论分析表明，该算法的势函数随时间递减，在弱假设下保证收敛，且学习过程实现次线性遗憾。