[論文レビュー] MobTCast: Leveraging Auxiliary Trajectory Forecasting for Human Mobility Prediction

Hao Xue, Flora D. Salim+2 more|arXiv (Cornell University)|Sep 30, 2021

Human Mobility and Location-Based Analysis参考文献 28被引用数 36

ひとこと要約

MobTCastは、次のPOI予測のためのTransformerベースの文脈認識モデルで、時系列・意味論・社会・地理的文脈を、整合性損失を伴う補助的な軌跡予測タスクを通じて統合し、精度を向上させます。

ABSTRACT

Human mobility prediction is a core functionality in many location-based services and applications. However, due to the sparsity of mobility data, it is not an easy task to predict future POIs (place-of-interests) that are going to be visited. In this paper, we propose MobTCast, a Transformer-based context-aware network for mobility prediction. Specifically, we explore the influence of four types of context in the mobility prediction: temporal, semantic, social and geographical contexts. We first design a base mobility feature extractor using the Transformer architecture, which takes both the history POI sequence and the semantic information as input. It handles both the temporal and semantic contexts. Based on the base extractor and the social connections of a user, we employ a self-attention module to model the influence of the social context. Furthermore, unlike existing methods, we introduce a location prediction branch in MobTCast as an auxiliary task to model the geographical context and predict the next location. Intuitively, the geographical distance between the location of the predicted POI and the predicted location from the auxiliary branch should be as close as possible. To reflect this relation, we design a consistency loss to further improve the POI prediction performance. In our experimental results, MobTCast outperforms other state-of-the-art next POI prediction methods. Our approach illustrates the value of including different types of context in next POI prediction.

研究の動機と目的

• 次のPOI予測の sparsity（希少性）課題を、複数の文脈信号を活用して動機づけ・解決する。
• Semantic contextを取り入れたTransformerベースのモビリティ特徴抽出器を提案する。
• 隣接ユーザーに対する自己注意モジュールを通じて社会的影響をモデル化する。
• 地理的文脈を直接モデル化する補助的な軌跡予測タスクを導入する。
• 主なPOI予測と補助的な位置予測を結びつける整合性損失を定義する。

提案手法

• Semantic-aware Mobility Feature ExtractorはPOI、semantic category、timestamp embeddingsをTransformerを通じて処理し、semantic-richなhistory representationsを生成する。
• Social Context Extractorは自分のhistory featuresとneighborsをmulti-head self-attentionで統合し、社会的影響をモデル化する。
• Auxiliary Trajectory Forecastingは将来の座標を、 embedded historical coordinatesに基づく別のTransformerを用いて予測し、地理的文脈を捉える。
• A consistency lossは推定されたPOI位置と補助的に予測された位置の距離を最小化することにより、POI予測出力を補助的な座標予測と整合させる。
• Three losses are combined (POI cross-entropy, trajectory regression, and consistency loss) in a weighted sum to train MobTCast.
• The approach jointly generates a POI probability distribution and a next-location estimate, connected through the shared contextual representations.

実験結果

リサーチクエスチョン

• RQ1 複数の文脈（時間的・意味的・社会的・地理的）をどのように統合して次のPOI予測を改善できるか？
• RQ2 整合性損失を伴う補助的な軌跡予測タスクを追加することでPOI予測性能は改善されるか？
• RQ3 Explicit social linksが利用できない場合、チェックインデータから社会的つながりを効果的に推定できるか？
• RQ4 各文脈成分と補助タスクがデータセット全体で予測精度に与える影響は何か？

主な発見

• MobTCastは、複数のベースラインと比較して、3つの実世界データセットで最先端の性能を達成する。
• 意味論的・社会的・地理的文脈を組み込むことで、文脈なし・単一文脈モデルに比べて顕著な改善を得られる。
• 補助的な軌跡予測タスクと整合性損失は、地理的文脈を活用することによってPOI予測を改善する。
• アブレーション研究は、3つの損失（POI予測、軌跡予測、整合性）を組み合わせると最良の結果になることを示す。
• MobTCastは、explicitな社会リンクがなくても、チェックインパターンから neighbours を導出することでデータセットへ一般化できる。