[论文解读] EdgeRec: Recommender System on Edge in Mobile Taobao

Yu Gong, Ziwen Jiang+5 more|arXiv (Cornell University)|May 18, 2020

Recommender Systems and Techniques参考文献 30被引用 12

一句话总结

EdgeRec 是淘宝首个在移动边缘设备上实际部署的实时推荐系统，通过在设备端本地处理用户行为并重新排序推荐结果，实现了用户偏好感知与系统反馈的实时化。它通过异构行为建模与上下文感知的重排序机制（结合行为注意力网络），在在线 A/B 测试中实现了最高 1.57% 的 PV 提升、7.18% 的 CTR 提升、8.87% 的 CLICK 增加以及 10.92% 的 GMV 提升。

ABSTRACT

Recommender system (RS) has become a crucial module in most web-scale applications. Recently, most RSs are in the waterfall form based on the cloud-to-edge framework, where recommended results are transmitted to edge (e.g., user mobile) by computing in advance in the cloud server. Despite effectiveness, network bandwidth and latency between cloud server and edge may cause the delay for system feedback and user perception. Hence, real-time computing on edge could help capture user preferences more preciously and thus make more satisfactory recommendations. Our work, to our best knowledge, is the first attempt to design and implement the novel Recommender System on Edge (EdgeRec), which achieves Real-time User Perception and Real-time System Feedback. Moreover, we propose Heterogeneous User Behavior Sequence Modeling and Context-aware Reranking with Behavior Attention Networks to capture user's diverse interests and adjust recommendation results accordingly. Experimental results on both the offline evaluation and online performance in Taobao home-page feeds demonstrate the effectiveness of EdgeRec.

研究动机与目标

• 解决基于云的瀑布流推荐系统中用户偏好感知与系统反馈的延迟问题。
• 实现在移动设备上基于用户即时交互行为的推荐实时自适应。
• 通过将计算任务迁移至边缘，减少对云服务器实时决策的依赖。
• 在设备端对多样化且异构的用户行为（包括正负反馈）进行建模，以提升个性化推荐效果。
• 通过设备端重排序实现在线指标（如 CTR、GMV 与用户参与度）的显著提升。

提出的方法

• EdgeRec 采用混合架构，候选物品由云端模型生成，而设备端模型负责实时重排序。
• 采用异构用户行为序列建模（HUBSM）技术，捕捉用户对物品的正负行为（如加入购物车 vs. 快速滑动）。
• 在上下文感知重排序（CRBAN）中引入行为注意力网络（BAN），建模候选物品与实时用户行为上下文之间的交互。
• 将模型组件在边缘与云端之间进行划分，以平衡计算负载与存储压力，实现高效的设备端推理。
• 用户行为数据在本地采集、存储与处理，降低网络延迟，实现行为捕捉延迟低于 300ms。
• 系统根据用户交互动态触发重排序，而非固定分页，将反馈频率从每次页面 3 次提升至 15 次。

实验结果

研究问题

• RQ1 在大规模工业级推荐系统中，是否可在移动边缘设备上实现用户行为的实时感知与系统反馈？
• RQ2 如何在设备端有效建模异构用户行为（包括正负反馈），以提升推荐相关性？
• RQ3 基于注意力机制的设备端上下文感知重排序，能在多大程度上提升在线推荐性能？
• RQ4 通过基于边缘的实时自适应，可在 CTR、GMV 与点击率等关键业务指标上实现多大程度的性能提升？
• RQ5 在支持大规模神经网络的前提下，如何在移动设备上保持模型效率与系统响应速度？

主要发现

• 通过在设备端本地处理数据，EdgeRec 将用户行为延迟从云端独享系统中的最高 1 分钟缩短至 300ms 以内。
• 通过将计算任务迁移至移动边缘，系统响应时间从超过 1 秒降低至 100ms 以下，彻底消除网络传输延迟。
• 系统反馈机会的平均次数从每页 3 次提升至 15 次，显著增强了对用户行为的实时响应能力。
• 在线 A/B 测试显示，EdgeRec 实现了 1.57% 的页面浏览量（PV）提升、7.18% 的点击率（CTR）提升、8.87% 的点击量（CLICK）增加以及 10.92% 的商品交易总额（GMV）提升。
• HUBSM 与 CRBAN 模块有效捕捉了用户意图，案例研究显示其能准确基于行为模式预测用户对物品的正向或负向兴趣。
• EdgeRec 已在淘宝移动端正式上线并承担主流量，验证了其可扩展性与真实世界有效性。