[논문 리뷰] Dynamic Graph Convolutional Recurrent Network for Traffic Prediction: Benchmark and Solution

Fuxian Li, Jie Feng외 4명|arXiv (Cornell University)|2021. 04. 30.

Traffic Prediction and Management Techniques인용 수 4

한 줄 요약

이 논문은 교통 네트워크에서 변화하는 공간적 의존성을 모델링하기 위해 초당 시간 단위로 동적 그래프 구조를 생성하는 하이퍼넷워크를 사용하는 새로운 프레임워크인 동적 그래프 컨볼루션 순환 네트워크(DGCRN)를 제안한다. 학습된 동적 그래프를 정적 그래프와 융합하고 RNN 학습 효율성을 최적화함으로써, DGCRN는 세 가지 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성하며 15개의 베이스라인을 초월한다. 표준화된 벤치마크와 새로운 데이터셋을 통해 공정한 평가가 가능하다.

ABSTRACT

Traffic prediction is the cornerstone of an intelligent transportation system. Accurate traffic forecasting is essential for the applications of smart cities, i.e., intelligent traffic management and urban planning. Although various methods are proposed for spatio-temporal modeling, they ignore the dynamic characteristics of correlations among locations on road networks. Meanwhile, most Recurrent Neural Network (RNN) based works are not efficient enough due to their recurrent operations. Additionally, there is a severe lack of fair comparison among different methods on the same datasets. To address the above challenges, in this paper, we propose a novel traffic prediction framework, named Dynamic Graph Convolutional Recurrent Network (DGCRN). In DGCRN, hyper-networks are designed to leverage and extract dynamic characteristics from node attributes, while the parameters of dynamic filters are generated at each time step. We filter the node embeddings and then use them to generate a dynamic graph, which is integrated with a pre-defined static graph. As far as we know, we are the first to employ a generation method to model fine topology of dynamic graph at each time step. Further, to enhance efficiency and performance, we employ a training strategy for DGCRN by restricting the iteration number of decoder during forward and backward propagation. Finally, a reproducible standardized benchmark and a brand new representative traffic dataset are opened for fair comparison and further research. Extensive experiments on three datasets demonstrate that our model outperforms 15 baselines consistently.

연구 동기 및 목표

• 정적 또는 적응형 인접 행렬이 교통 네트워크에서의 동적 공간 상관관계를 포착하는 데 한계가 있음을 해결하기 위해.
• 학습 중 디코더 반복 횟수를 제한함으로써 RNN 기반 교통 예측 모델의 효율성과 성능을 향상시키기 위해.
• 다양한 모델 간의 공정한 비교를 위해 재현 가능하고 표준화된 벤치마크와 새로운 대표성 있는 교통 데이터셋을 구축하기 위해.
• 정적 거리 기반 그래프와 동적 속성 기반 그래프를 모두 통합하여 공간 의존성 모델링을 향상시키기 위해.
• 동적 그래프 생성이 장거리 및 단거리 교통 예측 정확도 향상에 얼마나 효과적인지 입증하기 위해.

제안 방법

• 노드 속성 기반으로 하이퍼넷워크가 각 시간 단위에서 동적 그래프 필터 파라미터를 생성하여 시간에 따라 변화하는 공간 모델링을 가능하게 한다.
• 노드 임베딩을 필터링하고 사전 정의된 정적 그래프와 통합하여 하이브리드 구조를 형성함으로써 동적 그래프 구축을 수행한다.
• 전방 및 역방향 전파 중 제한된 반복 전략을 적용하여 학습 효율성을 향상시키지만 성능 저하 없이 수행한다.
• 순차적 시퀀스 아키텍처를 사용하며, 시간 모델링을 위해 게이트드 순환 단위(GRUs)를 활용하고, 스케줄링 샘플링을 통해 개선한다.
• 노드 임베딩은 공간 및 시간 특징에서 학습되며, 하이퍼넷워크 내의 GNN이 고차원 공간 의존성을 포착한다.
• 동적 그래프 생성기는 엔드 투 엔드로 훈련되어 공간 및 시간 표현 학습을 동시에 최적화한다.

실험 결과

연구 질문

• RQ1 각 시간 단위에서 동적 그래프 구조를 생성하는 것이 정적 또는 적응형 그래프에 비해 교통 예측 정확도 향상에 기여하는가?
• RQ2 동적 그래프와 정적 그래프의 융합이 복잡한 시공간 의존성을 포착하는 데 성능에 어떤 영향을 미치는가?
• RQ3 하이퍼넷워크 기반의 동적 필터 생성이 실시간 교통 상관관계 변화를 모델링하는 데 어떤 영향을 미치는가?
• RQ4 학습 중 RNN 디코더의 반복 횟수를 제한하는 것이 효율성과 예측 성능에 어떤 영향을 미치는가?
• RQ5 제안된 벤치마크와 데이터셋이 다양한 모델 간의 공정하고 재현 가능한 평가를 얼마나 잘 가능하게 하는가?

주요 결과

• DGCRN는 세 데이터셋에서 15개의 최신 기술 수준의 베이스라인을 모두 압도하며, MAE 및 RMSE 지표에서 일관된 우수성을 보였다.
• 동적 그래프 생성 메커니즘이 장거리 예측 성능을 크게 향상시키며, 정적 그래프와 융합할 경우 尤히 두드러진다.
• DGCRN의 최적의 은닉 상태 차원은 약 64이며, 이보다 높은 값에서는 과적합 현상이 발생한다.
• NE-BJ 데이터셋에서는 노드 임베딩 차원이 80–100일 때 성능이 가장 우수하여, 더 높은 복잡도에 더 rich한 표현이 필요함을 시사한다.
• 하이퍼넷워크 내 GNN의 차원은 균형을 맞춰야 하며, 너무 높으면 과적합이 발생하고, 16–32 수준에서 최적의 성능 향상을 얻을 수 있다.
• METR-LA에서 스케줄링 샘플링의 감쇠 스텝이 4000일 때 성능이 가장 우수하여, 하이퍼파rameter 튜닝의 중요성을 확인한다.