[论文解读] Time is of the Essence: a Joint Hierarchical RNN and Point Process Model for Time and Item Predictions

Bjørnar Vassøy, Massimiliano Ruocco+2 more|arXiv (Cornell University)|Dec 4, 2018

Multi-Criteria Decision Making参考文献 21被引用 9

一句话总结

该论文提出了一种联合分层RNN与点过程模型（THRNN），通过整合会话内动态、会话间关系和时间间隔建模，同时提升基于会话的物品推荐与返回时间预测性能。该模型在Last.fm和Reddit数据集上均实现了最先进性能，在召回率和MRR指标上取得显著提升，同时通过可控损失函数实现对短、中、长时返回时间预测的灵活调控。

ABSTRACT

In recent years session-based recommendation has emerged as an increasingly applicable type of recommendation. As sessions consist of sequences of events, this type of recommendation is a natural fit for Recurrent Neural Networks (RNNs). Several additions have been proposed for extending such models in order to handle specific problems or data. Two such extensions are 1.) modeling of inter-session relations for catching long term dependencies over user sessions, and 2.) modeling temporal aspects of user-item interactions. The former allows the session-based recommendation to utilize extended session history and inter-session information when providing new recommendations. The latter has been used to both provide state-of-the-art predictions for when the user will return to the service and also for improving recommendations. In this work we combine these two extensions in a joint model for the tasks of recommendation and return-time prediction. The model consists of a Hierarchical RNN for the inter-session and intra-session items recommendation extended with a Point Process model for the time-gaps between the sessions. The experimental results indicate that the proposed model improves recommendations significantly on two datasets over a strong baseline, while simultaneously improving return-time predictions over a baseline return-time prediction model.

研究动机与目标

• 解决现有基于会话的推荐系统无法同时建模长期用户行为与时间动态的局限性。
• 通过整合跨会话的用户-物品交互模式而非仅依赖时间间隔，提升返回时间预测性能。
• 通过RNN与点过程组件之间的共享表征，联合优化推荐质量与返回时间预测准确性。
• 通过可调损失函数组件，灵活控制预测焦点（短、中、长期时间间隔）。
• 证明联合建模会话间动态与时间间隔可同时提升推荐与时间预测性能。

提出的方法

• 该模型使用分层循环神经网络（HRNN）学习会话内物品序列与会话级动态的表征。
• 采用点过程模型（具体为霍克斯过程）建模会话间的时间间隔，其强度函数由HRNN的共享嵌入参数化。
• 联合训练过程采用加权损失函数，并引入控制参数α以调节不同时间间隔范围（短、中、长）的重要性。
• HRNN的会话级层捕捉跨会话的长期用户行为模式，而物品级层则建模每个会话内的即时序列依赖。
• HRNN与点过程之间的共享嵌入确保时间预测基于真实的用户-物品交互模式。
• 模型通过反向传播进行端到端训练，复合损失函数结合了推荐准确率与时间间隔预测误差。

实验结果

研究问题

• RQ1 联合建模会话内物品序列、会话间用户行为与时间间隔是否能同时提升推荐与返回时间预测性能？
• RQ2 引入点过程进行时间间隔建模对基于会话推荐的质量有何影响？
• RQ3 通过损失函数能否有效控制模型对短、中或长期返回时间的预测焦点？
• RQ4 RNN与点过程之间的共享表征学习是否优于独立模型，从而带来更好的泛化性能？
• RQ5 该模型在推荐与时间预测任务中与最先进基线相比表现如何？

主要发现

• 在Last.fm数据集上，THRNN模型相较于HRNN基线，Recall@5提升6.6%，MRR@5提升3.4%，Recall@20提升11.2%，MRR@20提升5.3%。
• 在Reddit数据集上，THRNN相较于GRU4REC基线，Recall@5提升39.3%，MRR@5提升36.0%，展现出跨领域的强大泛化能力。
• 该模型在返回时间预测上优于两种基线霍克斯点过程模型，尤其在观测频率较高的时间间隔上表现更优，归因于共享表征学习。
• 通过调节损失函数参数α，可有效控制预测焦点：较高的α值优先关注更长的时间间隔，而较低的α值则强调更短的间隔。
• 联合模型在推荐与返回时间预测任务上均达到最先进性能，表明联合建模实现了双赢效果。
• 相较于HRNN的性能提升小于相较于GRU4REC的提升，表明HRNN已捕捉到部分时间动态，但引入点过程建模仍带来进一步增益。