[논문 리뷰] MSTFormer: Motion Inspired Spatial-temporal Transformer with Dynamic-aware Attention for long-term Vessel Trajectory Prediction

Huimin Qiang, Zhiyuan Guo외 2명|arXiv (Cornell University)|2023. 03. 21.

Maritime Navigation and Safety인용 수 4

한 줄 요약

MSTFormer은 자기주의 메커니즘과 지식 기반 손실 함수에 선박 운동 역학을 통합함으로써 장기 선박 항로 예측을 위한 운동 유도 공간-시간 트랜스포머를 제안한다. 이는 코너 항로에서 특히 뛰어난 성능을 보이며, 도전적인 코너 데이터에서 DIS 1.3781을 기록하여 트랜스포머 및 LSTM 기반 모델보다 오차 감소율이 200% 이상 뛰어나다.

ABSTRACT

Incorporating the dynamics knowledge into the model is critical for achieving accurate trajectory prediction while considering the spatial and temporal characteristics of the vessel. However, existing methods rarely consider the underlying dynamics knowledge and directly use machine learning algorithms to predict the trajectories. Intuitively, the vessel's motions are following the laws of dynamics, e.g., the speed of a vessel decreases when turning a corner. Yet, it is challenging to combine dynamic knowledge and neural networks due to their inherent heterogeneity. Against this background, we propose MSTFormer, a motion inspired vessel trajectory prediction method based on Transformer. The contribution of this work is threefold. First, we design a data augmentation method to describe the spatial features and motion features of the trajectory. Second, we propose a Multi-headed Dynamic-aware Self-attention mechanism to focus on trajectory points with frequent motion transformations. Finally, we construct a knowledge-inspired loss function to further boost the performance of the model. Experimental results on real-world datasets show that our strategy not only effectively improves long-term predictive capability but also outperforms backbones on cornering data.The ablation analysis further confirms the efficacy of the proposed method. To the best of our knowledge, MSTFormer is the first neural network model for trajectory prediction fused with vessel motion dynamics, providing a worthwhile direction for future research.The source code is available at https://github.com/simple316/MSTFormer.

연구 동기 및 목표

• 딥 러닝 기반 선박 항로 예측 모델에서 운동 지식 통합의 부족을 해결하기 위해.
• 공간-시간 의존성과 운동 상태 전이를 모델링하여 장기 항로 예측 정확도를 향상시키기 위해.
• 기존 모델이 성능을 저하시키는 난이도 높은 항로 세그먼트, 특히 급격한 전환(코너 데이터)에서의 성능 향상을 위해.
• 신경망 학습과 물리적 운동 역학 간 격차를 해소하기 위해 운동 법칙을 주의 및 손실 함수에 통합하기 위해.
• 도메인 전문 운동 역학을 딥 러닝과 융합한 새로운 해석 가능한 프레임워크를 제공하기 위해.

제안 방법

• AIS 데이터에서 공간적 특징과 운동 역학(예: 속도 및 회전 속도 변화)을 인코딩하기 위해 확장된 항로 매트릭스(ATM)를 제안한다.
• 자주 변화하는 운동 전환(예: 전환)이 발생하는 항로 점에 주의를 집중시키는 다중 헤드 동적 인식 자가주의 메커니즘을 도입한다.
• 지오데식 보정 기반의 지식 기반 손실 함수를 설계하여 물리적으로 타당한 예측을 유도한다.
• Transformer 인코더에 입력하기 전에 CNN을 사용해 ATM에서 공간적 및 동적 패턴을 추출한다.
• 동적 인식 주의와 지식 기반 손실을 결합하여 주의 집중과 운동 일관성 양측을 함께 최적화한다.
• 모델이 원시 항로 데이터와 물리 기반 보정 신호 양쪽에서 학습할 수 있도록 하이브리드 학습 전략을 활용한다.

실험 결과

연구 질문

• RQ1 트랜스포머 아키텍처에 선박 운동 역학을 통합함으로써 장기 항로 예측 정확도가 향상될 수 있는가?
• RQ2 동적 인식 주의는 전환과 같은 중요한 운동 전이에 집중하는 데 모델의 능력을 어떻게 향상시키는가?
• RQ3 지식 기반 손실 함수는 복잡한 항로에서 예측 정밀도와 일반화 능력을 어느 정도 향상시키는가?
• RQ4 운동 역학을 딥 러닝과 융합한 모델이 코너 전환 및 장기 예측에서 표준 딥 러닝 백본보다 우수한 성능을 내는가?
• RQ5 왜 동적 인식 주의와 지식 기반 손실의 공동 사용이 최적 성능을 내기 위해 필수적인가?

주요 결과

• 코너 데이터셋에서 MSTFormer는 DIS 1.3781을 기록하여 LSTMED-attention의 DIS 4.9627 대비 오차가 213.5% 증가하였다.
• 코너 데이터에서 MSTFormer는 MSE를 2.5058×10⁻⁴로 줄였으며, 이는 트랜스포머(32.7519×10⁻⁴)와 LSTMED-attention(24.6290×10⁻⁴)를 크게 앞서는 성능이다.
• 제거 실험을 통해 동적 인식 주의와 지식 기반 손실의 조합이 기본 트랜스포머 대비 DIS를 16.2% 감소시켰다.
• ATM에서 특징을 추출하기 위해 CNN을 추가함으로써 표준 트랜스포머 대비 DIS는 8.04% 감소하고, MSE는 12.7% 감소하였다.
• 동적 인식 주의 또는 지식 기반 손실을 별도로 사용했을 경우 성능이 떨어져, 두 구성 요소가 최적 성능을 내기 위해 모두 필요하다는 점을 확인하였다.
• 지식 기반 손실 함수를 단독으로 사용했을 때 DIS는 2.2057에서 2.2650으로 향상되었지만, 모든 구성 요소를 포함한 전체 모델이 가장 낮은 오차인 2.2650을 기록하여 상호 보완적 효과를 확인하였다.