[论文解读] User Clustering in Online Advertising via Topic Models

Sahin Cem Geyik, Ali Dasdan+1 more|arXiv (Cornell University)|Jan 26, 2015

Recommender Systems and Techniques参考文献 16被引用 3

一句话总结

本文提出了一种基于主题模型的用户聚类方法，用于在线广告，通过将具有相似事件历史的用户分组到聚类中，提高了行动预测的准确性。通过修改pLSA，假设在给定事件历史的情况下用户与聚类之间条件独立，该方法实现了无需重新训练即可对新用户进行高效、实时的聚类分配，相较于基线方法，在A/B测试中实现了更低的eCPA和eCPC。

ABSTRACT

In the domain of online advertising, our aim is to serve the best ad to a user who visits a certain webpage, to maximize the chance of a desired action to be performed by this user after seeing the ad. While it is possible to generate a different prediction model for each user to tell if he/she will act on a given ad, the prediction result typically will be quite unreliable with huge variance, since the desired actions are extremely sparse, and the set of users is huge (hundreds of millions) and extremely volatile, i.e., a lot of new users are introduced everyday, or are no longer valid. In this paper we aim to improve the accuracy in finding users who will perform the desired action, by assigning each user to a cluster, where the number of clusters is much smaller than the number of users (in the order of hundreds). Each user will fall into the same cluster with another user if their event history are similar. For this purpose, we modify the probabilistic latent semantic analysis (pLSA) model by assuming the independence of the user and the cluster id, given the history of events. This assumption helps us to identify a cluster of a new user without re-clustering all the users. We present the details of the algorithm we employed as well as the distributed implementation on Hadoop, and some initial results on the clusters that were generated by the algorithm.

研究动机与目标

• 为解决在线广告中稀疏且易变的用户行动数据挑战，通过提高稀有事件的预测准确性。
• 实现高效、可扩展的用户聚类，支持低重新训练开销的实时广告出价。
• 开发一种聚类方法，使新用户无需从头开始重新计算整个模型即可分配到聚类中。
• 通过在实时出价系统中使用聚类级别的行动概率作为特征，提升出价准确性。
• 在真实广告环境中评估该方法对eCPA和eCPC等关键性能指标的影响。

提出的方法

• 该方法通过假设在给定用户事件历史的情况下，用户ID与聚类ID条件独立，对概率潜在语义分析（pLSA）进行修改，从而实现高效推理。
• 使用信标事件（跟踪像素）作为用户行为的主要信号，将每个信标视为用户行为“文档”中的一个“词”。
• 该算法应用期望最大化（EM）框架来学习聚类分配和概率，其中关键优化降低了EM的计算成本。
• 系统在Hadoop集群上使用Apache Pig实现，以处理数亿名用户的海量分布式数据处理。
• 聚类归属在运行时通过分析新用户的信标历史确定，避免了存储所有用户聚类分配的需要。
• 聚类ID与广告活动和发布商属性一起作为特征，用于计算行动概率估计以支持出价。

实验结果

研究问题

• RQ1 基于事件历史的用户聚类是否能在用户数据稀疏且易变的在线广告环境中，提升行动预测的准确性？
• RQ2 如何设计一种可扩展的聚类方法，实现在不重新训练整个模型的前提下将新用户分配到聚类中？
• RQ3 与传统的基于相似度的方法相比，基于主题模型的聚类是否能在实时出价系统中带来更好的性能？
• RQ4 基于聚类的行动概率估计在多大程度上能降低真实广告活动中的eCPA和eCPC？
• RQ5 在给定事件历史的前提下，用户与聚类之间的条件独立性假设在多大程度上提升了模型效率和推理速度？

主要发现

• 在为期10天的A/B测试中，所提出的基于主题模型的聚类方法在有效成本每行动（eCPA）方面显著低于基线的余弦相似度方法。
• 该方法还实现了更低的有效成本每点击（eCPC），表明出价效率更高，且与实际用户行为更加一致。
• 性能提升在整个测试期间保持一致，新方法在eCPA和eCPC两个指标上均优于基线。
• 结果表明，由于减少了数据稀疏性带来的方差，聚类级别的行动概率估计比基于单个用户的估计更准确。
• 该模型的设计允许在不重新训练的情况下对新用户实现实时聚类分配，从而在动态广告环境中实现可扩展的部署。
• 测试末期eCPA逐渐上升的趋势被归因于行动追踪的归因延迟，而非模型失效。