[论文解读] MobTCast: Leveraging Auxiliary Trajectory Forecasting for Human Mobility Prediction

Hao Xue, Flora D. Salim+2 more|arXiv (Cornell University)|Sep 30, 2021

Human Mobility and Location-Based Analysis参考文献 28被引用 36

一句话总结

MobTCast 是一个基于 Transformer、具上下文感知能力的下一 POI 预测模型，通过一个辅助轨迹预测任务及一致性损失，将时间、语义、社交和地理上下文整合在一起，以提升预测准确性。

ABSTRACT

Human mobility prediction is a core functionality in many location-based services and applications. However, due to the sparsity of mobility data, it is not an easy task to predict future POIs (place-of-interests) that are going to be visited. In this paper, we propose MobTCast, a Transformer-based context-aware network for mobility prediction. Specifically, we explore the influence of four types of context in the mobility prediction: temporal, semantic, social and geographical contexts. We first design a base mobility feature extractor using the Transformer architecture, which takes both the history POI sequence and the semantic information as input. It handles both the temporal and semantic contexts. Based on the base extractor and the social connections of a user, we employ a self-attention module to model the influence of the social context. Furthermore, unlike existing methods, we introduce a location prediction branch in MobTCast as an auxiliary task to model the geographical context and predict the next location. Intuitively, the geographical distance between the location of the predicted POI and the predicted location from the auxiliary branch should be as close as possible. To reflect this relation, we design a consistency loss to further improve the POI prediction performance. In our experimental results, MobTCast outperforms other state-of-the-art next POI prediction methods. Our approach illustrates the value of including different types of context in next POI prediction.

研究动机与目标

• 通过利用多种上下文信号，激励并解决下一步 POI 预测中的稀疏性挑战。
• 提出一个基于 Transformer 的移动性特征提取器，整合语义上下文。
• 通过对邻近用户的自注意力模块建模社交影响。
• 引入一个辅助轨迹预测任务，以直接建模地理上下文。
• 定义一个一致性损失，将主要 POI 预测与辅助坐标预测连接起来。

提出的方法

• 语义感知移动特征提取器通过 Transformer 使用 POI、语义类别和时间戳的嵌入，生成具有语义丰富性的历史表示。
• 社交上下文提取器通过多头自注意力将自身历史特征与邻居聚合，以建模社交影响。
• 辅助轨迹预测使用一个独立的 Transformer，在嵌入的历史坐标上预测未来坐标，以捕捉地理上下文。
• 一致性损失通过最小化推断的 POI 位置与辅助预测位置之间的距离，将 POI 预测输出与辅助坐标预测对齐。
• 将三种损失（POI 交叉熵、轨迹回归和一致性损失）以加权和的方式组合起来训练 MobTCast。
• 该方法联合生成 POI 概率分布和下一个位置的估计，通过共享的上下文表示进行连接。

实验结果

研究问题

• RQ1 如何整合时间、语义、社交和地理等多重上下文以提升下一步 POI 预测？
• RQ2 增加带有一致性损失的辅助轨迹预测任务是否能提升 POI 预测性能？
• RQ3 在没有显式社交链接的情况下，是否可以从签到数据中有效推断社交关系？
• RQ4 在不同数据集上，各个上下文组件和辅助任务对预测准确性的影响是什么？

主要发现

• 与多种基线相比，MobTCast 在三个真实世界数据集上达到最先进的性能。
• 将语义、社交和地理上下文结合在一起，相较于忽略上下文或仅使用单一上下文的模型，带来显著提升。
• 辅助轨迹预测任务及一致性损失通过利用地理上下文，有助于提升 POI 预测。
• 消融研究显示同时结合三种损失（POI 预测、轨迹预测和一致性）可获得最佳结果。
• MobTCast 可通过从签到模式推导邻居来推广到没有显式社交链接的数据集。