[论文解读] Traj2User: exploiting embeddings for computing similarity of users mobile behavior

Andrea Esuli, Lucas May Petry+2 more|arXiv (Cornell University)|Jul 31, 2018

Human Mobility and Location-Based Analysis参考文献 8被引用 4

一句话总结

Traj2User 提出了一种受 Word2Vec 启发的方法，从语义增强的轨迹中生成用户嵌入，通过神经网络训练隐式学习相似性。在用户相似性任务中，其均 reciprocal rank（MRR）相比基线方法提升了 14.7%，证明了该方法在无需显式设计相似性函数的情况下，有效建模了异构移动语义。

ABSTRACT

Semantic trajectories are high level representations of user movements where several aspects related to the movement context are represented as heterogeneous textual labels. With the objective of finding a meaningful similarity measure for semantically enriched trajectories, we propose Traj2User, a Word2Vec-inspired method for the generation of a vector representation of user movements as user embeddings. Traj2User uses simple representations of trajectories and delegates the definition of the similarity model to the learning process of the network. Preliminary results show that Traj2User is able to generate effective user embeddings.

研究动机与目标

• 为解决从跨空间、时间及多个语义维度的语义丰富、异构移动数据中计算用户相似性的挑战。
• 消除手动定义不同轨迹属性（如出行方式、天气或活动）之间相似性函数的需求。
• 学习一种统一且紧凑的向量表示（用户嵌入），以捕捉从原始轨迹片段中提取的复杂用户移动模式。
• 评估神经嵌入学习是否能有效建模真实世界移动数据中用户相似性，尤其在语义标签有限的情况下。

提出的方法

• Traj2User 将每个轨迹片段视为一个‘句子’，语义标签视为‘词’，采用受 Word2Vec 启发的跳字模型架构，学习用户嵌入。
• 通过负采样和随机梯度下降训练嵌入模型，学习编码语义与行为相似性的向量表示。
• 该方法处理分段轨迹，其中每个片段被赋予多个语义属性标签（如出行方式、天气、活动），形成每个用户的一系列标签序列。
• 通过聚合与特定用户相关联的所有片段的已学习向量表示，生成用户嵌入。
• 该模型无需显式相似性函数或对语义维度进行手动加权；这些均从数据端到端自动学习。
• 利用自定义的 1,000 对用户样本的合成数据集，通过分割真实用户移动描述来模拟相似性，用于评估。

实验结果

研究问题

• RQ1 神经嵌入模型是否能在不显式设计各属性相似性函数的前提下，有效从语义增强轨迹中学习用户相似性？
• RQ2 与 Sum、PPMI、SM 及其 SVD 变体等传统方法相比，Traj2User 在捕捉用户移动相似性方面表现如何？
• RQ3 当标签稀疏或分布不均时，该模型是否仍能有效识别具有相似移动模式的用户群体？
• RQ4 尽管在自然语言处理中表现良好，为何基于 Softmax 的概率方法在此任务中表现不佳？
• RQ5 较短的嵌入维度是否会导致性能平稳下降？在小样本数据集上，完整长度嵌入是否能带来性能增益？

主要发现

• 在 1,000 对测试集中，Traj2User 相较于表现第二好的方法 Sum，实现了 14.7% 的 MRR 相对提升，且具有统计显著性（p = 3.66×10⁻⁵）。
• 该方法优于传统基于 NLP 的技术（如 PPMI、SM 及其 SVD 变体），尽管这些方法在语言建模任务中表现良好，但在本任务中表现欠佳。
• 基于 Softmax 的方法表现最差，表明强制对轨迹数据进行概率解释在此任务中并不合适。
• 即使嵌入维度减小至 f=8，Traj2User 仍保持强劲性能，优于 Sum，表明其具备良好的降级特性，并具有潜在的数据压缩优势。
• 在模拟的 2,000 名用户群体（20 个 100 人小组）中，该模型成功捕捉到组内相似性，通过嵌入的余弦相似度可视化出一致的聚类结果。
• 结果表明，TagMyDay 数据集中标签频率分布（对数分布，非齐普夫分布）可能是标准 NLP 方法表现不佳的原因之一，尽管这仍需进一步研究。