[论文解读] New Item Consumption Prediction Using Deep Learning

Michael Shekasta, Gilad Katz+3 more|arXiv (Cornell University)|May 5, 2019

Recommender Systems and Techniques参考文献 29被引用 6

一句话总结

本文提出PISA，一种基于深度学习的内容感知方法，用于预测会话推荐系统中的购买意图，尤其适用于新商品缺乏历史交互数据的冷启动场景。通过利用商品描述中的词嵌入和循环神经网络，PISA在冷启动设置下优于深度学习基线模型，并能有效处理高度不平衡的数据，在与协同过滤模型结合时性能进一步提升。

ABSTRACT

Recommendation systems have become ubiquitous in today's online world and are an integral part of practically every e-commerce platform. While traditional recommender systems use customer history, this approach is not feasible in 'cold start' scenarios. Such scenarios include the need to produce recommendations for new or unregistered users and the introduction of new items. In this study, we present the Purchase Intent Session-bAsed (PISA) algorithm, a content-based algorithm for predicting the purchase intent for cold start session-based scenarios. Our approach employs deep learning techniques both for modeling the content and purchase intent prediction. Our experiments show that PISA outperforms a well-known deep learning baseline when new items are introduced. In addition, while content-based approaches often fail to perform well in highly imbalanced datasets, our approach successfully handles such cases. Finally, our experiments show that combining PISA with the baseline in non-cold start scenarios further improves performance.

研究动机与目标

• 解决在新商品缺乏历史交互数据（冷启动）的情况下，会话推荐系统中预测购买意图的挑战。
• 开发一种基于内容的方法，利用商品描述和嵌入来建模商品间关系，而无需依赖用户历史数据。
• 在现实电商环境中常见的高度不平衡数据集中提升性能。
• 在大规模商业数据集上，针对多样化商品类别评估该方法的有效性。
• 探索将基于内容的模型与现有协同过滤基线模型结合，以提升整体性能。

提出的方法

• PISA使用在商品描述和类别上训练的词嵌入来建模商品之间的语义关系。
• 通过循环神经网络（RNN）处理会话序列，以捕捉时间依赖性并预测购买可能性。
• 采用端到端监督学习，使用二元交叉熵损失进行训练，以预测会话是否以购买结束。
• 利用预训练嵌入在商品间迁移知识，使模型能够泛化到未见过的新商品。
• 该方法独立评估，并与深度学习协同过滤基线模型进行集成评估。
• 该方法通过利用丰富的内容特征提供信号，即使购买事件稀少，也能有效应对数据不平衡问题。

实验结果

研究问题

• RQ1 当新商品缺乏历史交互数据时，基于内容的深度学习模型能否在会话场景中有效预测购买意图？
• RQ2 在冷启动设置下，基于内容的PISA模型与最先进深度学习协同过滤基线模型相比，性能如何？
• RQ3 PISA在购买事件稀少的极度不平衡数据集中，处理能力如何？
• RQ4 将PISA与协同过滤基线模型结合，是否能在非冷启动场景下提升整体性能？
• RQ5 商品描述长度、类别特定数据量以及会话点击模式在PISA预测性能中起什么作用？

主要发现

• 在冷启动场景下，PISA显著优于深度学习基线模型，尤其当50%的会话包含新商品时，AUC得分的性能差距明显。
• 当冷启动商品占比较高时，基于内容的方法优于基线模型和集成模型，表明其对未见商品具有强大的泛化能力。
• PISA在高度不平衡数据集上保持了强劲性能，这是大多数推荐系统面临的一个已知挑战。
• 在平均商品描述更长且商品数量更高的产品类别中，PISA表现更优，表明更丰富的文本特征有助于学习。
• 出人意料的是，每种类别下的训练会话数量对性能影响甚微，表明通过词嵌入实现了有效的跨类别泛化。
• 将PISA与协同过滤基线模型结合后，所有场景下的性能均得到提升，证明了两者具有互补优势。