[论文解读] Improving End-to-End Sequential Recommendations with Intent-aware Diversification

Wanyu Chen, Pengjie Ren+2 more|arXiv (Cornell University)|Aug 27, 2019

Recommender Systems and Techniques参考文献 28被引用 6

一句话总结

该论文提出IDSR，一种用于序列推荐的端到端神经模型，通过隐式意图挖掘（IIM）模块显式建模多种潜在用户意图，并结合意图感知的多样性促进（IDP）损失，从而提升推荐多样性。该方法在两个基准数据集上实现了卓越或相当的准确率，同时显著增强了推荐多样性。

ABSTRACT

Sequential Recommendation (SRs) that capture users' dynamic intents by modeling user sequential behaviors can recommend closely accurate products to users. Previous work on SRs is mostly focused on optimizing the recommendation accuracy, often ignoring the recommendation diversity, even though it is an important criterion for evaluating the recommendation performance. Most existing methods for improving the diversity of recommendations are not ideally applicable for SRs because they assume that user intents are static and rely on post-processing the list of recommendations to promote diversity. We consider both recommendation accuracy and diversity for SRs by proposing an end-to-end neural model, called Intent-aware Diversified Sequential Recommendation (IDSR). Specifically, we introduce an Implicit Intent Mining module (IIM) into SRs to capture different user intents reflected in user behavior sequences. Then, we design an Intent-aware Diversity Promoting (IDP) loss to supervise the learning of the IIM module and force the model to take recommendation diversity into consideration during training. Extensive experiments on two benchmark datasets show that IDSR significantly outperforms state-of-the-art methods in terms of recommendation diversity while yielding comparable or superior recommendation accuracy.

研究动机与目标

• 解决仅关注准确率而缺乏多样性的序列推荐模型问题。
• 克服后处理多样性方法的局限性，后者假设用户意图静态不变，且无法端到端训练。
• 设计一个统一框架，在训练过程中联合优化推荐准确率与多样性。
• 使模型能够从序列行为中捕捉并响应多种动态用户意图。

提出的方法

• 引入隐式意图挖掘（IIM）模块，利用多种注意力机制从用户行为序列中提取不同的潜在用户意图。
• 使用序列编码器（如GRU或Transformer）将用户行为表示为稠密嵌入。
• 采用意图感知的推荐解码器，逐个选择项目，同时跟踪每种挖掘出的意图的满足情况。
• 设计IDP损失，将准确率（如召回率、MRR）与多样性（如ILD）目标相结合，通过超参数λ加权以平衡权衡。
• 使用反向传播端到端训练整个模型，使模型能够联合学习意图挖掘与多样化推荐。
• 在解码过程中将已选项目作为上下文，通过避免任一意图的过度代表来确保多样性。

实验结果

研究问题

• RQ1 端到端模型是否能有效提升序列推荐中的推荐多样性，而无需依赖后处理？
• RQ2 隐式意图挖掘模块能否从序列行为中有效捕捉多种动态用户意图？
• RQ3 在序列推荐中，准确率与多样性的最优权衡是什么？该权衡如何在训练过程中学习？
• RQ4 在不同序列编码器（如GRU与Transformer）下，模型在准确率与多样性方面的表现如何？
• RQ5 案例研究是否表明模型能够生成多样化且覆盖用户意图的推荐，且与用户行为模式一致？

主要发现

• IDSR在ML100K和ML1M数据集上，以ILD衡量的推荐多样性显著优于最先进基线模型，同时在Recall@20和MRR@20等准确率指标上保持或提升。
• IDP损失实现了准确率与多样性的有效联合优化，最优性能在ML100K上对应λ ≈ 0.5，在ML1M上对应λ ≈ 0.8。
• GRU版本的IDSR在所有指标上均优于基于Transformer的变体，可能归因于GRU在数据有限时对序列建模更强的归纳偏置。
• 模型在低λ值（ML100K为0.2，ML1M为0.4）时实现最佳多样性表现，证实多样性在训练中若不过度惩罚，可获得最佳促进效果。
• 案例研究显示，IDSR能生成多样化且意图感知的推荐——例如同时包含剧情、喜剧、动作和惊悚类影片——同时仍优先考虑主导意图，而不会像其他模型那样过度专业化。
• 消融实验证实，IIM模块与IDP损失对实现高性能均不可或缺，移除任一模块均导致多样性和准确率显著下降。