[论文解读] A Diffusion model for POI recommendation

Yifang Qin, Hongjun Wu+3 more|arXiv (Cornell University)|Apr 14, 2023

Human Mobility and Location-Based Analysis被引用 4

一句话总结

本文提出 Diff-POI，一种基于图的扩散模型，用于兴趣点（POI）推荐，通过定制的图编码模块和基于扩散的采样策略，捕捉用户在时空上的偏好。通过反向扩散迭代优化用户偏好表征，该模型在熟悉和新颖地点的 POI 推荐中表现优异，在四个真实世界数据集上超越了当前最先进方法。

ABSTRACT

Next Point-of-Interest (POI) recommendation is a critical task in location-based services that aim to provide personalized suggestions for the user's next destination. Previous works on POI recommendation have laid focused on modeling the user's spatial preference. However, existing works that leverage spatial information are only based on the aggregation of users' previous visited positions, which discourages the model from recommending POIs in novel areas. This trait of position-based methods will harm the model's performance in many situations. Additionally, incorporating sequential information into the user's spatial preference remains a challenge. In this paper, we propose Diff-POI: a Diffusion-based model that samples the user's spatial preference for the next POI recommendation. Inspired by the wide application of diffusion algorithm in sampling from distributions, Diff-POI encodes the user's visiting sequence and spatial character with two tailor-designed graph encoding modules, followed by a diffusion-based sampling strategy to explore the user's spatial visiting trends. We leverage the diffusion process and its reversed form to sample from the posterior distribution and optimized the corresponding score function. We design a joint training and inference framework to optimize and evaluate the proposed Diff-POI. Extensive experiments on four real-world POI recommendation datasets demonstrate the superiority of our Diff-POI over state-of-the-art baseline methods. Further ablation and parameter studies on Diff-POI reveal the functionality and effectiveness of the proposed diffusion-based sampling strategy for addressing the limitations of existing methods.

研究动机与目标

• 解决现有 POI 推荐模型依赖聚合历史访问表征的局限性，这些表征会阻碍在新颖或不熟悉区域的推荐。
• 通过图神经网络联合编码时空轨迹，更有效地建模用户的时空与序列偏好。
• 引入基于扩散的采样机制，通过迭代优化用户的潜在位置偏好，实现更准确且多样化的下一站 POI 预测。
• 为不受限于熟悉路线或重复地点的探索型用户提供有效推荐。
• 验证基于扩散的采样策略在捕捉隐式空间偏好方面的有效性，超越简单的池化或注意力机制。

提出的方法

• Diff-POI 采用自定义设计的图编码模块，将用户时空轨迹建模为具有空间与序列依赖关系的 POI 序列。
• 构建 POI 之间的转移图，并利用图神经网络编码位置的序列访问模式与空间邻近性。
• 对用户的位置偏好表征应用前向扩散过程，将其建模为时间上的马尔可夫链。
• 学习反向扩散过程，逐步去噪表征，使模型能够从后验分布中采样合理的下一站 POI。
• 通过端到端联合训练优化反向过程的得分函数，使模型能够通过迭代优化生成高质量推荐。
• 设计联合训练与推理框架，以优化扩散过程，并在推理阶段实现有效采样。

实验结果

研究问题

• RQ1 基于扩散的采样策略能否有效建模并优化用户潜在的空间偏好，以实现下一站 POI 推荐？
• RQ2 与基于聚合的方法相比，所提模型在推荐不熟悉或新颖地理区域 POI 时表现如何？
• RQ3 通过图编码整合序列与空间信息，在多大程度上提升了推荐的准确率与多样性？
• RQ4 扩散模型中的迭代采样过程是否能更有效地发现相关 POI，特别是对探索型用户？
• RQ5 模型的各组件——图编码与扩散采样——在单独与联合使用时，对最终推荐性能的贡献如何？

主要发现

• Diff-POI 在四个真实世界 POI 推荐数据集上达到最先进性能，在准确率与覆盖率方面均优于现有 SOTA 方法。
• 该模型成功推荐了新颖区域的 POI，如旅游景点或不熟悉的社区，而传统基于聚合的方法在此类场景中表现失败。
• 案例研究显示，随着扩散采样过程推进（从 0% 到 100%），top-5 推荐 POI 与目标 POI 的地理距离逐渐缩短，表明表征得到有效优化。
• 对于有规律行为的用户（如往返家与工作地点），模型在采样早期即能识别出正确的下一站 POI，展现出强大的偏好建模能力。
• 消融实验确认，基于扩散的采样策略在性能上显著优于基于注意力或池化的聚合方法。
• 即使对于探索新区域的用户，模型仍能保持高推荐质量，目标 POI 在最终采样步骤中被成功检索。