[논문 리뷰] Multimodal joint prediction of traffic spatial-temporal data with graph sparse attention mechanism and bidirectional temporal convolutional network

Dongran Zhang, Jiangnan Yan외 3명|arXiv (Cornell University)|2024. 12. 24.

Traffic Prediction and Management Techniques인용 수 16

한 줄 요약

GSABT는 그래프 희소 주의(attention) 메커니즘과 양방향 시계열 컨볼루션 네트워크를 도입하여 다중 모드 교통 공간-시간 공동 예측을 수행하고, 세 가지 실제 데이터세트에서 최첨단 결과를 달성한다. 이는 다중 교통 모드를 공동으로 모델링하고 공간-시간 확장에 맞게 확장된다.

ABSTRACT

Traffic flow prediction plays a crucial role in the management and operation of urban transportation systems. While extensive research has been conducted on predictions for individual transportation modes, there is relatively limited research on joint prediction across different transportation modes. Furthermore, existing multimodal traffic joint modeling methods often lack flexibility in spatial-temporal feature extraction. To address these issues, we propose a method called Graph Sparse Attention Mechanism with Bidirectional Temporal Convolutional Network (GSABT) for multimodal traffic spatial-temporal joint prediction. First, we use a multimodal graph multiplied by self-attention weights to capture spatial local features, and then employ the Top-U sparse attention mechanism to obtain spatial global features. Second, we utilize a bidirectional temporal convolutional network to enhance the temporal feature correlation between the output and input data, and extract inter-modal and intra-modal temporal features through the share-unique module. Finally, we have designed a multimodal joint prediction framework that can be flexibly extended to both spatial and temporal dimensions. Extensive experiments conducted on three real datasets indicate that the proposed model consistently achieves state-of-the-art predictive performance.

연구 동기 및 목표

• 다양한 교통 모드 간의 다중 모달 교통 예측에 동기를 부여한다.
• 모드 간 공간-시간 특성을 공동으로 추출하는 유연한 프레임워크를 개발한다.
• 다중 모달 교통 그래프의 희소성 및 이질성을 다룬다.
• 공간 및 시간 차원으로 확장 가능한 확장 가능한 아키텍처를 제시한다.

제안 방법

• 자체 주의(attention)를 이용한 다중 모달 결합 그래프를 사용하여 로컬 공간 특징을 캡처한다.
• Top-U 희소 주의를 적용하여 모드 간 글로벌 공간 특징 상호작용을 수행한다.
• 공통 시계열 특징을 위한 Shared Bidirectional Temporal Convolutional Network(S-BiTCN)을 도입한다.
• 모드별 시계열 특징을 위한 Unique Bidirectional Temporal Convolutional Networks(U-BiTCN)을 개발한다.
• 잔차 연결이 있는 MLP 예측기로 공간 및 시간 특징을 융합한다.

실험 결과

연구 질문

• RQ1 그래프 희소 주의 메커니즘이 다중 교통 모드 간의 로컬 및 글로벌 공간 종속성을 모두 효과적으로 포착할 수 있는가?
• RQ2 양방향 시계열 컨볼루션 네트워크가 다중 모달 교통 데이터의 시계열 특징 학습을 향상시키는가?
• RQ3 제안된 GSABT 프레임워크가 더 많은 모달리티 및 확장된 공간-시간 차원으로 확장될 때 얼마나 잘 확장되는가?
• RQ4 공유 시계열 모듈과 모드별 시계열 모듈의 간-내 모달 다이나믹스에 대한 상대적 이득은 무엇인가?

주요 결과

• GSABT는 baselines와 비교하여 세 가지 실제 데이터셋(BJ Taxi, NYC Taxi, NYC Bike) 모두에서 우수한 예측 성능을 달성한다.
• 듀얼 데이터 공동 예측에서 GSABT는 여러 작업에서 상대 모델 대비 MAE 및 RMSE를 감소시키고 PCC를 증가시킨다.
• 강화된 결합 실험은 세 데이터셋에서의 공동 모델링으로 GSABT의 이점을 확인하며 MAE/RMSE 감소 및 PCC 증가를 보인다.
• 모달리티를 독립적으로 모델링해도 GSABT의 성능이 강하게 유지됨을 확인하는 해독 실험이 있다.
• 2-모달 및 3-모달 공동 예측에서 로버스트한 개선을 보여 주며, 확장성과 유연성을 검증한다.