[논문 리뷰] Spatio-Temporal Joint Graph Convolutional Networks for Traffic Forecasting

Chuanpan Zheng, Xiaoliang Fan외 6명|arXiv (Cornell University)|2021. 11. 25.

Traffic Prediction and Management Techniques참고 문헌 48인용 수 8

한 줄 요약

이 논문은 시간에 따라 변화하는 포괄적인 정적-시간적 상관관계를 모델링하기 위해 노드 간에 적응형 및 사전 정의된 정적-시간적 공동 그래프(STJG)를 구성함으로써 동적인 정적-시간적 상관관계를 모델링하는 새로운 그래프 신경망 아키텍처인 Spatio-Temporal Joint Graph Convolutional Networks(STJGCN)를 제안한다. 장거리 의존성을 포착하기 위해 확장된 인과 컨벌루션과 다중 범위 주의 메커니즘을 활용하여, 다섯 개인 교통 예측 데이터셋에서 높은 계산 효율성과 함께 최신 기준 성능을 달성한다.

ABSTRACT

Recent studies have shifted their focus towards formulating traffic forecasting as a spatio-temporal graph modeling problem. Typically, they constructed a static spatial graph at each time step and then connected each node with itself between adjacent time steps to create a spatio-temporal graph. However, this approach failed to explicitly reflect the correlations between different nodes at different time steps, thus limiting the learning capability of graph neural networks. Additionally, those models overlooked the dynamic spatio-temporal correlations among nodes by using the same adjacency matrix across different time steps. To address these limitations, we propose a novel approach called Spatio-Temporal Joint Graph Convolutional Networks (STJGCN) for accurate traffic forecasting on road networks over multiple future time steps. Specifically, our method encompasses the construction of both pre-defined and adaptive spatio-temporal joint graphs (STJGs) between any two time steps, which represent comprehensive and dynamic spatio-temporal correlations. We further introduce dilated causal spatio-temporal joint graph convolution layers on the STJG to capture spatio-temporal dependencies from distinct perspectives with multiple ranges. To aggregate information from different ranges, we propose a multi-range attention mechanism. Finally, we evaluate our approach on five public traffic datasets and experimental results demonstrate that STJGCN is not only computationally efficient but also outperforms 11 state-of-the-art baseline methods.

연구 동기 및 목표

• 다른 시간 단계에서의 노드 간에 명시적으로 교차 정적-시간적 상관관계를 모델링하지 못하는 기존 정적-시간적 그래프 모델의 한계를 해결하기 위해.
• 이전 방법에서 사용하는 인접 행렬의 정적 성격으로 인해 시간이 지남에 따라 변화하는 정적-시간적 상관관계를 간과하는 문제를 해결하기 위해.
• 다중 단계 교통 예측을 위한 공간적 및 시간적 차원에서의 장거리 의존성을 포착하는 계산 효율성이 높은 딥 러닝 프레임워크를 개발하기 위해.
• 시간과 공간 전반에서 도로 네트워크 센서 간의 포괄적이고 동적인 상호작용을 모델링하여 교통 예측 정확도를 향상시키기 위해.

제안 방법

• 다양한 시간 단계에서의 노드 간 동적이고 포괄적인 상관관계를 모델링하기 위해 사전 정의된 정적-시간적 공동 그래프(STJG)와 적응형 정적-시간적 공동 그래프를 구성한다.
• 다양한 수신 필드를 가진 여러 시간 범위의 의존성을 포착하기 위해 확장된 인과 정적-시간적 공동 그래프 컨벌루션 레이어를 도입한다.
• 다양한 시간 및 공간 이웃 범위에서의 정보를 집계하기 위해 다중 범위 주의 메커니즘을 활용하여 특징 표현을 향상시킨다.
• MAE, RMSE, MAPE를 균형 있게 조정하기 위해 학습 가능한 가중치(β)를 가진 하이브리드 손실 함수를 사용하여 강건성을 향상시킨다.
• PeMSD4에서는 커널 크기 K=3, PeMSD8에서는 K=2를 적용하여 수신 필드 크기를 최적화하고 과도한 맥락으로 인한 노이즈를 방지한다.
• 데이터 기반 및 적응형 그래프 학습 구성 요소 간의 균형을 맞추기 위해 하이퍼파rameter δ_pdf와 δ_adt를 튜닝하여 각 데이터셋에서 최적의 성능을 달성한다.

실험 결과

연구 질문

• RQ1 다른 시간 단계에서의 노드 간 포괄적인 정적-시간적 상관관계를 모델링하는 것이 교통 예측 정확도를 향상시키는가?
• RQ2 정적 또는 고정된 시간 연결에 비해 동적인 적응형 정적-시간적 공동 그래프를 사용할 경우, 변화하는 교통 패턴을 얼마나 잘 포착할 수 있는가?
• RQ3 확장된 컨벌루션과 다중 범위 주의 메커니즘은 교통 예측에서 장거리 의존성 모델링을 얼마나 향상시키는가?
• RQ4 제안된 STJGCN는 최신 기준 방법에 비해 예측 정확도, 모델 크기, 추론 속도 간의 균형을 얼마나 잘 달성하는가?

주요 결과

• STJGCN는 모든 예측 수평선에서 MAE, RMSE, MAPE 측면에서 다섯 개인 교통 예측 데이터셋에서 11개의 최신 기준 기반 모델을 모두 압도한다.
• PeMSD4 데이터셋에서 STJGCN는 MAE 2.34, RMSE 3.81, MAPE 10.21%를 기록하여 Graph WaveNet과 GMAN을 크게 앞서며 뛰어난 성능을 보였다.
• PeMSD8 데이터셋에서 STJGCN는 MAE 2.51, RMSE 4.03, MAPE 10.89%를 기록하여 다양한 도로 네트워크에 걸쳐 강력한 일반화 능력을 입증했다.
• 모델은 계산 효율성이 높다: 대부분의 기반 모델보다 파라미터 수가 적고, 추론 속도가 매우 빠르며, STSGCN과 AGCRN를 제외하고는 가장 빠른 편에 속한다. 이 두 모델은 정확도가 떨어진다.
• PeMSD4에서 커널 크기 K가 3을 초과하거나 PeMSD8에서 K가 2를 초과할 경우 성능이 저하되며, 이는 더 큰 수신 필드가 노이즈를 유발하고 효과를 떨어뜨린다는 것을 시사한다.
• 최적의 하이퍼파ram터는 PeMSD4에 대해 δ_pdf=0.5, δ_adt=0.5이며, PeMSD8에 대해 δ_pdf=0.5, δ_adt=0.3이며, 각각 β=1.0과 β=1.5로 설정하여 손실 구성 요소를 균형 있게 조정해 최고의 일반화 성능을 달성한다.