[论文解读] Personalized Embedding-based e-Commerce Recommendations at eBay

Tian Wang, Yuri M. Brovman+1 more|arXiv (Cornell University)|Feb 11, 2021

Recommender Systems and Techniques参考文献 28被引用 9

一句话总结

本文提出了一种双塔深度学习模型，通过使用内容特征和多模态站内行为（如点击、搜索）在共享向量空间中学习个性化用户和物品嵌入，以解决电子商务中的冷启动和数据稀疏性问题。该方法在A/B测试中相较生产环境的RVI基线模型，将推荐覆盖率提升了约6%，覆盖了90%的列表页曝光量。

ABSTRACT

Recommender systems are an essential component of e-commerce marketplaces, helping consumers navigate massive amounts of inventory and find what they need or love. In this paper, we present an approach for generating personalized item recommendations in an e-commerce marketplace by learning to embed items and users in the same vector space. In order to alleviate the considerable cold-start problem present in large marketplaces, item and user embeddings are computed using content features and multi-modal onsite user activity respectively. Data ablation is incorporated into the offline model training process to improve the robustness of the production system. In offline evaluation using a dataset collected from eBay traffic, our approach was able to improve the Recall@k metric over the Recently-Viewed-Item (RVI) method. This approach to generating personalized recommendations has been launched to serve production traffic, and the corresponding scalable engineering architecture is also presented. Initial A/B test results show that compared to the current personalized recommendation module in production, the proposed method increases the surface rate by $\sim$6\% to generate recommendations for 90\% of listing page impressions.

研究动机与目标

• 解决大规模电商平台在用户-物品交互稀疏情况下的冷启动问题。
• 在主页和非列表页等场景下，超越基于种子物品的方法，提升推荐覆盖率和个性化程度。
• 通过在离线训练中引入数据消融，克服生产环境中数据稀疏性和模型不稳定性问题。
• 构建可扩展、低延迟的工程架构，实现在eBay平台工业规模上部署深度学习嵌入。
• 通过基于聚类的KNN和多模态用户信号融合，提升模型鲁棒性和多样性。

提出的方法

• 训练一个双塔深度神经网络，利用物品内容特征和多模态用户活动（点击、搜索）在共享向量空间中嵌入用户和物品。
• 使用基于内容的嵌入为物品提供支持，以缓解新物品或仅有一件的物品的冷启动问题。
• 将多样化的隐式信号（如物品浏览、搜索查询）整合到用户嵌入中，以捕捉动态购物目标。
• 在离线训练中应用数据消融，模拟缺失的用户数据，提升模型在生产环境中面对不完整或噪声数据时的鲁棒性。
• 采用基于聚类的KNN实现高效检索，提升候选推荐的多样性。
• 通过低延迟、基于JVM的缓存架构进行模型部署，支持实时推理，并在推理时可选地加入LTR排序。

实验结果

研究问题

• RQ1 在大规模电子商务环境中，基于内容的物品嵌入能否有效缓解冷启动问题？
• RQ2 将多模态用户信号（如点击、搜索）整合到用户嵌入中，相较于仅基于浏览的信号，能否显著提升个性化程度？
• RQ3 在训练阶段引入数据消融在多大程度上能提升模型在真实世界数据稀疏环境下的鲁棒性？
• RQ4 可扩展、低延迟的基于嵌入的系统能否在推荐覆盖率上超越现有的RVI基线方法？
• RQ5 何种工程架构能够实现eBay规模下深度学习嵌入的高效、实时推理？

主要发现

• 与生产环境的RVI基线系统相比，所提方法将推荐覆盖率提升了约6%，使90%的列表页曝光量实现了推荐。
• 在离线评估中，该模型优于RVI基线，使用eBay真实流量数据集时，Recall@k指标表现更优。
• 将搜索和点击行为整合到用户嵌入中，显著扩大了候选集并提升了覆盖率，尤其对浏览历史有限的用户效果更明显。
• 训练阶段的数据消融有效提升了模型在生产环境中的稳定性与性能，尤其在真实世界数据稀疏场景下表现更优。
• 基于聚类的KNN方法提升了推荐多样性，减少了对高频浏览物品的过度依赖。
• 该系统已成功投入生产，服务5000万美国用户并实现全球扩展，未来计划通过事件流处理和实时KNN服务实现近实时更新。