[论文解读] MSTFormer: Motion Inspired Spatial-temporal Transformer with Dynamic-aware Attention for long-term Vessel Trajectory Prediction

Huimin Qiang, Zhiyuan Guo+2 more|arXiv (Cornell University)|Mar 21, 2023

Maritime Navigation and Safety被引用 4

一句话总结

MSTFormer 通过将船舶动力学整合到自注意力机制和知识启发的损失函数中，提出了一种受运动启发的时空 Transformer，用于长期船舶轨迹预测。其在复杂转弯轨迹上的表现达到最先进水平，挑战性转弯数据上的 DIS 为 1.3781，相比 Transformer 和基于 LSTM 的模型，误差降低超过 200%。

ABSTRACT

Incorporating the dynamics knowledge into the model is critical for achieving accurate trajectory prediction while considering the spatial and temporal characteristics of the vessel. However, existing methods rarely consider the underlying dynamics knowledge and directly use machine learning algorithms to predict the trajectories. Intuitively, the vessel's motions are following the laws of dynamics, e.g., the speed of a vessel decreases when turning a corner. Yet, it is challenging to combine dynamic knowledge and neural networks due to their inherent heterogeneity. Against this background, we propose MSTFormer, a motion inspired vessel trajectory prediction method based on Transformer. The contribution of this work is threefold. First, we design a data augmentation method to describe the spatial features and motion features of the trajectory. Second, we propose a Multi-headed Dynamic-aware Self-attention mechanism to focus on trajectory points with frequent motion transformations. Finally, we construct a knowledge-inspired loss function to further boost the performance of the model. Experimental results on real-world datasets show that our strategy not only effectively improves long-term predictive capability but also outperforms backbones on cornering data.The ablation analysis further confirms the efficacy of the proposed method. To the best of our knowledge, MSTFormer is the first neural network model for trajectory prediction fused with vessel motion dynamics, providing a worthwhile direction for future research.The source code is available at https://github.com/simple316/MSTFormer.

研究动机与目标

• 解决基于深度学习的船舶轨迹预测模型中缺乏动力学知识融合的问题。
• 通过建模时空依赖关系和运动状态转换，提升长期轨迹预测的准确性。
• 改善在具有挑战性的轨迹段（尤其是急转弯，即转弯数据）上的性能，这些段落是现有模型表现不佳的区域。
• 通过将运动定律嵌入注意力和损失函数，弥合神经网络学习与物理动力学之间的差距。
• 提供一种新颖且可解释的轨迹预测框架，融合领域特定的动力学与深度学习。

提出的方法

• 提出增强轨迹矩阵（ATM），用于从 AIS 数据中编码空间特征和运动动力学（如速度和转向率的变化）。
• 引入多头动态感知自注意力机制，突出显示频繁发生运动变换的轨迹点，如转弯点。
• 设计基于测地线校正的知识启发损失函数，引导模型生成物理上合理的预测结果。
• 使用卷积神经网络（CNN）从 ATM 中提取空间和动态模式，再输入 Transformer 编码器。
• 将动态感知注意力与知识启发损失相结合，联合优化注意力聚焦与动力学一致性。
• 采用混合训练策略，使模型同时从原始轨迹数据和物理信息校正信号中学习。

实验结果

研究问题

• RQ1 将船舶运动动力学整合到 Transformer 架构中，能否提升长期轨迹预测的准确性？
• RQ2 动态感知注意力在多大程度上增强了模型对关键运动转换（如转弯）的聚焦能力？
• RQ3 知识启发损失函数在复杂轨迹上的预测保真度和泛化能力方面，改善程度如何？
• RQ4 将运动动力学与深度学习融合，是否在急转弯和长期预测任务上优于标准深度学习主干网络？
• RQ5 为何动态感知注意力与知识启发损失的联合使用对实现最佳性能至关重要？

主要发现

• 在转弯数据集上，MSTFormer 的 DIS 达到 1.3781，相比 LSTMED-attention 的 4.9627，误差提高了 213.5%。
• 在转弯数据上，MSTFormer 将 MSE 降低至 2.5058×10⁻⁴，显著优于 Transformer（32.7519×10⁻⁴）和 LSTMED-attention（24.6290×10⁻⁴）。
• 消融实验证实，动态感知注意力与知识启发损失的结合使 DIS 相比基线 Transformer 降低了 16.2%。
• 与标准 Transformer 相比，添加 CNN 从 ATM 中提取特征，使 DIS 降低 8.04%，MSE 降低 12.7%。
• 当仅使用动态感知注意力或仅使用知识损失时，模型性能下降，表明两个组件对最优结果均不可或缺。
• 单独使用知识启发损失函数时，DIS 从 2.2057 降低至 2.2650，但完整模型（所有组件）达到最低误差 2.2650，证实了组件间的协同效应。