[论文解读] TrajectoryNet: An Embedded GPS Trajectory Representation for Point-based Classification Using Recurrent Neural Networks

Xiang Jiang, Érico N. de Souza+4 more|arXiv (Cornell University)|May 7, 2017

Human Mobility and Location-Based Analysis参考文献 46被引用 28

一句话总结

TrajectoryNet 提出了一种新颖的嵌入式 GPS 轨迹表示方法，采用基于神经网络的特征嵌入和 Maxout 激活的 GRU，以提升从原始 GPS 轨迹中对人类交通方式的点分类性能。通过将低维、异构的 GPS 数据经由类基展开的嵌入方法转换为分布式语义空间，该模型在四类交通方式分类中准确率超过 98%，在七类设置中准确率达 97.3%，优于现有方法，且无需外部传感器数据或先验知识。

ABSTRACT

Understanding and discovering knowledge from GPS (Global Positioning System) traces of human activities is an essential topic in mobility-based urban computing. We propose TrajectoryNet-a neural network architecture for point-based trajectory classification to infer real world human transportation modes from GPS traces. To overcome the challenge of capturing the underlying latent factors in the low-dimensional and heterogeneous feature space imposed by GPS data, we develop a novel representation that embeds the original feature space into another space that can be understood as a form of basis expansion. We also enrich the feature space via segment-based information and use Maxout activations to improve the predictive power of Recurrent Neural Networks (RNNs). We achieve over 98% classification accuracy when detecting four types of transportation modes, outperforming existing models without additional sensory data or location-based prior knowledge.

研究动机与目标

• 解决从原始、低维且异构的 GPS 轨迹数据中分类人类交通方式的挑战。
• 通过学习捕捉高层语义并支持非线性决策边界的分布式嵌入，改进 GPS 特征表示。
• 通过基于分段的特征增强和 GRU 中的 Maxout 激活，提升 RNN 的预测能力。
• 在不依赖额外传感器数据或基于位置的先验知识的前提下，实现点分类轨迹的最先进性能。
• 探究神经网络中嵌入、基展开与离散化在连续时空数据中的理论联系。

提出的方法

• 该模型采用一种新颖的嵌入层，将原始 GPS 特征（纬度、经度、速度、航向）映射到分布式向量空间，作为基展开的一种形式，以改善特征表示。
• 通过将轨迹划分为固定长度的窗口，提取分段特征，以丰富输入表示中的局部运动模式。
• 在门控循环单元（GRUs）中应用 Maxout 激活，以增强记忆状态的表达能力并改善泛化性能。
• 嵌入层与 GRU 分类器端到端联合训练，使网络能够直接从 GPS 数据中学习语义上有意义的表示。
• 通过基于熵的分箱方法对连续特征进行离散化，消融研究显示每特征 20–30 个分箱时性能最优。
• 使用交叉熵损失和随机梯度下降进行训练，并采用早停策略以防止过拟合。

实验结果

研究问题

• RQ1 对原始 GPS 特征的可学习嵌入是否能提升在低维、异构时空数据中的分类性能？
• RQ2 所提出的嵌入机制与神经网络中基展开及分段函数逼近之间存在何种关系？
• RQ3 基于分段的特征和 Maxout 激活在多大程度上增强了 RNN 对轨迹分类的预测能力？
• RQ4 纯 GPS 基础的模型是否能在无外部数据或先验知识的情况下实现最先进性能？
• RQ5 离散化粒度的选择如何影响交通方式检测的模型性能？

主要发现

• 在检测四类交通方式（自行车、汽车、步行、公交车）时，TrajectoryNet 实现了 98.0% 的点分类准确率，显著优于基线模型。
• 在更具挑战性的七类分类任务中（包括火车、地铁、飞机），模型实现了 97.3% 的点分类准确率和 93.0% 的平均 F1 分数。
• 模型对类别不平衡具有鲁棒性，错误率最高的类别为训练样本较少的地铁和飞机。
• 将特征离散化为每特征 20–30 个分箱时性能最优，超过 30 个分箱后收益递减。
• 预测结果的可视化显示，大多数误分类发生在相似模式之间（如汽车 vs. 公交车），表明模型能有效捕捉细微的运动模式。
• 消融研究证实，嵌入层和 Maxout-GRU 组件均至关重要，当任一组件被移除时性能显著下降。