[论文解读] A Neural Network Approach to Joint Modeling Social Networks and Mobile Trajectories

Cheng Yang, Maosong Sun+3 more|arXiv (Cornell University)|Jun 27, 2016

Human Mobility and Location-Based Analysis参考文献 61被引用 10

一句话总结

该论文提出了一种联合神经网络模型 JNTM，将社交网络嵌入与循环神经网络相结合，联合建模基于位置的社交网络（LBSNs）中的用户轨迹与社交关系。通过利用用户偏好、好友影响以及 RNN 和 GRU 所捕捉的短期与长期序列上下文，该模型在数据稀疏条件下显著提升了下一次位置推荐与好友推荐的性能。

ABSTRACT

The accelerated growth of mobile trajectories in location-based services brings valuable data resources to understand users' moving behaviors. Apart from recording the trajectory data, another major characteristic of these location-based services is that they also allow the users to connect whomever they like. A combination of social networking and location-based services is called as location-based social networks (LBSN). As shown in previous works, locations that are frequently visited by socially-related persons tend to be correlated, which indicates the close association between social connections and trajectory behaviors of users in LBSNs. In order to better analyze and mine LBSN data, we present a novel neural network model which can joint model both social networks and mobile trajectories. In specific, our model consists of two components: the construction of social networks and the generation of mobile trajectories. We first adopt a network embedding method for the construction of social networks: a networking representation can be derived for a user. The key of our model lies in the component of generating mobile trajectories. We have considered four factors that influence the generation process of mobile trajectories, namely user visit preference, influence of friends, short-term sequential contexts and long-term sequential contexts. To characterize the last two contexts, we employ the RNN and GRU models to capture the sequential relatedness in mobile trajectories at different levels, i.e., short term or long term. Finally, the two components are tied by sharing the user network representations. Experimental results on two important applications demonstrate the effectiveness of our model. Especially, the improvement over baselines is more significant when either network structure or trajectory data is sparse.

研究动机与目标

• 解决在基于位置的社交网络（LBSNs）中联合建模社交网络结构与移动轨迹数据的挑战。
• 通过捕捉社交关系与移动模式之间的相互依赖性，提升推荐任务（特别是下一次位置推荐与好友推荐）的性能。
• 构建一个统一的深度学习框架，使社交与轨迹建模组件共享用户表征，以增强泛化能力。
• 研究在数据稀疏条件下（社交或轨迹数据有限）模型的有效性。
• 探索利用 RNN 与 GRU 架构在轨迹生成中整合短期与长期序列上下文的方法。

提出的方法

• 使用网络嵌入技术构建用户社交网络表征，将社交关系编码为低维向量。
• 通过联合考虑四种因素来建模移动轨迹生成：用户访问偏好、好友影响、短期序列上下文与长期序列上下文。
• 采用循环神经网络（RNN）捕捉签到序列中的短期序列依赖关系。
• 利用门控循环单元（GRU）建模用户轨迹中的长期序列模式。
• 通过在社交网络与轨迹生成模块之间共享相同的用户网络表征，将两者关联起来。
• 使用联合目标函数端到端训练模型，同时优化轨迹生成与社交关系预测任务。

实验结果

研究问题

• RQ1 统一的神经网络模型能否有效捕捉 LBSNs 中社交关系与移动模式之间的相互作用？
• RQ2 用户访问偏好、好友影响以及短期与长期序列上下文如何共同影响轨迹预测性能？
• RQ3 联合建模社交与轨迹数据是否能提升推荐准确率，尤其是在某一模态数据稀疏时？
• RQ4 RNN 与 GRU 组件在建模用户轨迹序列模式方面分别起到了多大作用？
• RQ5 在下一次位置推荐与好友推荐任务中，该模型的性能与当前最先进基线方法相比如何？

主要发现

• 所提出的 JNTM 模型在下一次位置推荐与好友推荐任务上，始终优于多个竞争性基线方法。
• 当社交网络结构或轨迹数据稀疏时，与基线相比性能提升更加显著，表明模型对数据稀缺具有鲁棒性。
• 在 Gowalla 数据集上，JNTM 在下一次位置推荐任务中的召回率约为 0.85，且在嵌入维度从 25 到 100 的范围内性能保持稳定。
• JNTM 的内存占用约为 1,125 MB，约为 PRME（550 MB）的两倍，原因在于每个用户需存储双重表征（好友关系与偏好）。
• JNTM 在 CPU 上的训练时间约为 107 分钟，但使用 GPU 加速后训练时间缩短为约 9 分钟（Tesla K40），提速约 12 倍。
• 每次预测的推理时间小于 30ms，使该模型适用于实时在线推荐服务。