[论文解读] Adaptive Keywords Extraction with Contextual Bandits for Advertising on Parked Domains

Shuai Yuan, Wang Jun+1 more|arXiv (Cornell University)|Jul 12, 2013

Advanced Text Analysis Techniques参考文献 27被引用 4

一句话总结

该论文提出了一种基于上下文Bandit和BM25F词项加权的自适应关键词提取系统，用于停放域名，以在无网页内容的情况下推断用户意图。通过迭代地从众包用户反馈中学习，该方法在相关性方面优于BM25F、KEA和商业服务，在6轮迭代中实现了13.6%的提升。

ABSTRACT

Domain name registrars and URL shortener service providers place advertisements on the parked domains (Internet domain names which are not in service) in order to generate profits. As the web contents have been removed, it is critical to make sure the displayed ads are directly related to the intents of the visitors who have been directed to the parked domains. Because of the missing contents in these domains, it is non-trivial to generate the keywords to describe the previous contents and therefore the users intents. In this paper we discuss the adaptive keywords extraction problem and introduce an algorithm based on the BM25F term weighting and linear multi-armed bandits. We built a prototype over a production domain registration system and evaluated it using crowdsourcing in multiple iterations. The prototype is compared with other popular methods and is shown to be more effective.

研究动机与目标

• 解决在无网页内容的停放域名上推断用户意图的挑战。
• 开发一种可自适应学习的关键词提取系统，通过用户反馈持续提升相关性。
• 克服依赖预标注数据或固定启发式规则的静态关键词提取方法的局限性。
• 通过众包评估测量关键词推荐的相关性和一致性。
• 证明上下文Bandit在学习动态关键词相关性的特征权重方面的有效性。

提出的方法

• 采用BM25F词项加权方法，根据名词短语、词性标记等语言学特征对候选关键词进行评分。
• 将关键词相关性预测建模为上下文多臂老虎机问题，其中每个关键词为一个“臂”，特征向量表示上下文信息。
• 使用线性广义模型（GLM）表示特征向量与期望奖励（相关性）之间的关系。
• 应用置信上界（UCB）算法，在关键词选择中平衡探索与利用。
• 通过oDesk.com众包收集人类反馈，采用1–5分的相关性量表，并通过嵌入陷阱检测欺诈行为。
• 基于反馈迭代更新特征权重，并通过Fleiss’ Kappa和Cohen’s Kappa衡量标注者间的一致性。

实验结果

研究问题

• RQ1 基于上下文Bandit的系统能否在无网页内容的停放域名上有效推断用户意图？
• RQ2 所提出的自适应关键词提取系统相较于静态方法（如BM25F和KEA）的性能如何？
• RQ3 众包反馈在多大程度上能随时间提升所提取关键词的相关性？
• RQ4 哪些特征（如标题、内容、元标签）在学习模型中对关键词相关性贡献最大？
• RQ5 在众包评估环境中，人类对关键词相关性的判断是否稳定且一致？

主要发现

• 所提出的razorclaw系统在首次迭代中比KEA高出8.29%，在最后一次迭代中进一步提升了13.6%。
• BM25F和KEA表现稳定，而商业服务（Yahoo!和Google）因仅支持英文而表现不佳。
• 内容特征在学习模型中影响最大，其次是词性特征和标题；元标签被发现不可靠。
• 系统展现出自适应学习能力，在第2轮和第4轮探索阶段出现性能短暂下降后能够恢复。
• 标注者间一致性较强，Fleiss’ Kappa和Cohen’s Kappa的平均值表明人类判断可靠。
• 特征权重随时间的演变证实，模型能动态调整，根据反馈优先考虑最相关的特征。