[论文解读] Learning Continuous User Representations through Hybrid Filtering with doc2vec

Simon Stiebellehner, Jun Wang+1 more|arXiv (Cornell University)|Dec 31, 2017

Recommender Systems and Techniques参考文献 32被引用 8

一句话总结

本文提出 user2vec 和 context2vec，两种基于 doc2vec 的新型混合过滤方法，用于从应用使用历史和应用元数据中学习连续的用户表征。通过联合建模用户行为与内容特征，该方法显著提升了相似用户建模的性能，其中 context2vec 在下游任务中优于直接特征工程，相较于基线模型实现了 2.24% 的相对 AUC-ROC 提升。

ABSTRACT

Players in the online ad ecosystem are struggling to acquire the user data required for precise targeting. Audience look-alike modeling has the potential to alleviate this issue, but models' performance strongly depends on quantity and quality of available data. In order to maximize the predictive performance of our look-alike modeling algorithms, we propose two novel hybrid filtering techniques that utilize the recent neural probabilistic language model algorithm doc2vec. We apply these methods to data from a large mobile ad exchange and additional app metadata acquired from the Apple App store and Google Play store. First, we model mobile app users through their app usage histories and app descriptions (user2vec). Second, we introduce context awareness to that model by incorporating additional user and app-related metadata in model training (context2vec). Our findings are threefold: (1) the quality of recommendations provided by user2vec is notably higher than current state-of-the-art techniques. (2) User representations generated through hybrid filtering using doc2vec prove to be highly valuable features in supervised machine learning models for look-alike modeling. This represents the first application of hybrid filtering user models using neural probabilistic language models, specifically doc2vec, in look-alike modeling. (3) Incorporating context metadata in the doc2vec model training process to introduce context awareness has positive effects on performance and is superior to directly including the data as features in the downstream supervised models.

研究动机与目标

• 通过提升相似用户建模所需数据的质量与数量，改善在线广告中的用户表征。
• 通过利用应用使用历史和元数据，解决实时出价（RTB）环境中用户数据有限的挑战。
• 评估神经概率语言模型（如 doc2vec）是否能够为预测建模生成更优的用户嵌入。
• 探究在 doc2vec 训练过程中整合上下文元数据是否相比特征拼接能提升下游性能。

提出的方法

• 提出 user2vec，一种混合过滤方法，通过在用户应用使用序列上训练 doc2vec 来生成连续的用户嵌入。
• 引入 context2vec，通过在 doc2vec 训练过程中直接整合应用元数据（如类型、价格、评分）来扩展 user2vec。
• 通过混合建模将协同过滤（基于用户-应用交互）与基于内容的过滤（使用应用描述和元数据）相结合。
• 以 TF-IDF 作为基线进行比较，将其应用于用户级应用描述，并与基于 doc2vec 的表征相结合。
• 采用监督机器学习模型（如 XGBoost）在性别和年龄分类任务上评估预测性能。
• 使用负采样和跳字结构训练 doc2vec 模型，以学习用户和项目密集向量表征。

实验结果

研究问题

• RQ1 R1：基于应用使用历史和描述的 doc2vec 用户表征学习（user2vec）是否相比最先进方法能提升推荐质量？
• RQ2 R2：在 doc2vec 训练过程中整合应用元数据（context2vec）是否相比将元数据作为独立特征处理，能生成更优的用户表征？
• RQ3 R3：在性别和年龄预测的相似用户建模中，混合过滤模型（如 TF-IDF + d2v:CF）的性能与基线方法相比如何？

主要发现

• user2vec 生成的嵌入在推荐质量上显著优于当前最先进技术，展现出更优的用户表征学习能力。
• 结合 TF-IDF 与 d2v:CF（协同过滤）的混合过滤方法，相比基线模型实现了 2.23% 的相对平均 AUC-ROC 提升。
• 将元数据整合到 doc2vec 训练过程中的 context2vec，相比直接将元数据作为特征输入，显著提升了下游预测性能，实现 2.24% 的相对 AUC-ROC 提升。
• 表现最佳的模型为 TF-IDF + d2v:CF + 元数据，相比零基线实现了 2.24% 的相对提升和 1.27% 的绝对 AUC-ROC 提升。
• 在 doc2vec 训练过程中融入上下文信息，优于传统特征工程，凸显了端到端上下文感知表征学习的优势。