[论文解读] Dionysius: A Framework for Modeling Hierarchical User Interactions in Recommender Systems

Jian Wang, Krishnaram Kenthapadi+2 more|arXiv (Cornell University)|Jun 12, 2017

Recommender Systems and Techniques参考文献 30被引用 4

一句话总结

Dionysius 提出了一种分层图模型框架，通过从交互层次中学习潜在用户表征，将用户交互信号（如职位浏览和申请）整合到大规模推荐系统中，而无需扩展特征空间。该框架已在 LinkedIn 部署超过一年，提升了职位推荐质量（以 VPI 和 API 衡量），同时保持了模型的可解释性，并重用了现有的基于内容的基础设施。

ABSTRACT

We address the following problem: How do we incorporate user item interaction signals as part of the relevance model in a large-scale personalized recommendation system such that, (1) the ability to interpret the model and explain recommendations is retained, and (2) the existing infrastructure designed for the (user profile) content-based model can be leveraged? We propose Dionysius, a hierarchical graphical model based framework and system for incorporating user interactions into recommender systems, with minimal change to the underlying infrastructure. We learn a hidden fields vector for each user by considering the hierarchy of interaction signals, and replace the user profile-based vector with this learned vector, thereby not expanding the feature space at all. Thus, our framework allows the use of existing recommendation infrastructure that supports content based features. We implemented and deployed this system as part of the recommendation platform at LinkedIn for more than one year. We validated the efficacy of our approach through extensive offline experiments with different model choices, as well as online A/B testing experiments. Our deployment of this system as part of the job recommendation engine resulted in significant improvement in the quality of retrieved results, thereby generating improved user experience and positive impact for millions of users.

研究动机与目标

• 将隐式用户交互信号（例如浏览、申请）有效整合到大规模基于内容的推荐系统中，而无需扩展特征空间。
• 在个性化推荐系统中保持模型的可解释性和可说明性。
• 实现与专为用户资料特征设计的现有基于内容的推荐基础设施的无缝集成。
• 支持对数百万候选项目进行实时、低延迟打分，同时保持高数据新鲜度。
• 改善具有不同交互历史的用户（包括无先前活动的新用户）的推荐质量。

提出的方法

• 该框架通过分层图模型学习潜在用户表征向量，将用户资料视为先验，并根据交互信号的强弱顺序（例如：申请 > 浏览 > 无交互）进行更新。
• 交互强度层次被建模为高层信号（如申请）影响低层表征，随着交互数据的积累，先验影响逐渐减弱。
• 模型采用广义线性混合模型（GLMM）框架，联合学习用户特定的隐藏字段和回归系数，从而实现高效训练与推理。
• 学习到的隐藏字段在在线推理流程中替代用户资料特征，从而可重用现有的键值存储和推荐基础设施。
• 系统采用渐进式迁移策略在生产环境中部署，与新的排序平台共存直至完成过渡。
• 离线实验和在线 A/B 测试验证了该模型在不同用户群体和交互模式下的有效性。

实验结果

研究问题

• RQ1 是否可以有效将用户交互信号整合到基于内容的推荐系统中，而无需扩展特征空间？
• RQ2 如何通过用户交互的分层模型提升推荐质量，同时保持模型的可解释性？
• RQ3 在整合隐式交互信号时，现有基于内容的推荐基础设施在多大程度上可以被重用？
• RQ4 交互层次（例如：申请 > 浏览 > 无操作）对用户表征学习和推荐性能有何影响？
• RQ5 该框架在多样化用户群体中的表现如何，包括无先前交互记录的用户？

主要发现

• Dionysius 框架显著提升了职位推荐质量，在在线 A/B 测试中，每千次曝光的浏览量（VPI）提升了 12.5%，每千次曝光的申请量（API）提升了 15%。
• 所有用户交互模型（包括零浏览、零申请用户）均优于未使用交互信号训练的基线模型，表明该模型在各类用户类型中均具备鲁棒性。
• 该系统已在 LinkedIn 成功部署并稳定运行近 18 个月，服务于跨多个职位推荐场景的数百万用户。
• 该框架实现了从旧基础设施到新排序平台的平稳、渐进式迁移，未对服务质量造成任何中断。
• 模型通过从交互层次中学习，即使在用户交互记录有限或完全缺失的情况下，也能实现有效的表征学习。
• 该方法通过用学习到的潜在向量替代资料特征，避免了复杂的黑箱表征，从而保持了模型的可解释性。