[논문 리뷰] DMGCRN: Dynamic Multi-Graph Convolution Recurrent Network for Traffic Forecasting

Yanjun Qin, Yuchen Fang외 3명|arXiv (Cornell University)|2021. 12. 04.

Traffic Prediction and Management Techniques인용 수 6

한 줄 요약

이 논문은 거리 기반의 국소적(거리 기반) 및 구조 기반의 원거리적(구조 기반) 공간적 의존성을 이중 그래프를 사용하여 모델링하고, 주의 메커니즘을 통한 계층적 센서 영역의 동적 가중치를 부여하는 동적 다중 그래프 컨볼루션 순환 신경망인 DMGCRN을 제안한다. 통합된 그래프 컨볼루션과 게이트드 순환 단위를 통해 스펙트럴 동역학을 효과적으로 포착함으로써, 세 개의 실세계 교통 데이터셋에서 최신 기술을 초월하는 성능을 달성한다.

ABSTRACT

Traffic forecasting is a problem of intelligent transportation systems (ITS) and crucial for individuals and public agencies. Therefore, researches pay great attention to deal with the complex spatio-temporal dependencies of traffic system for accurate forecasting. However, there are two challenges: 1) Most traffic forecasting studies mainly focus on modeling correlations of neighboring sensors and ignore correlations of remote sensors, e.g., business districts with similar spatio-temporal patterns; 2) Prior methods which use static adjacency matrix in graph convolutional networks (GCNs) are not enough to reflect the dynamic spatial dependence in traffic system. Moreover, fine-grained methods which use self-attention to model dynamic correlations of all sensors ignore hierarchical information in road networks and have quadratic computational complexity. In this paper, we propose a novel dynamic multi-graph convolution recurrent network (DMGCRN) to tackle above issues, which can model the spatial correlations of distance, the spatial correlations of structure, and the temporal correlations simultaneously. We not only use the distance-based graph to capture spatial information from nodes are close in distance but also construct a novel latent graph which encoded the structure correlations among roads to capture spatial information from nodes are similar in structure. Furthermore, we divide the neighbors of each sensor into coarse-grained regions, and dynamically assign different weights to each region at different times. Meanwhile, we integrate the dynamic multi-graph convolution network into the gated recurrent unit (GRU) to capture temporal dependence. Extensive experiments on three real-world traffic datasets demonstrate that our proposed algorithm outperforms state-of-the-art baselines.

연구 동기 및 목표

• 근접한 센서를 초월한 장거리 공간 상관관계를 포착하는 데에 기존의 교통 예측 모델의 한계를 해결하기 위해.
• 기존의 그래프 컨볼루션 신경망에서 정적 공간 의존성 가정을 초월하여 동적 공간 관계를 모델링하기 위해.
• 전체 자기 주의 메커니즘 대신 계층적 이웃 그룹화와 동적 주의 가중치를 적용하여 효율성과 정확도를 향상시키기 위해.
• 동적 다중 그래프 컨볼루션과 게이트드 순환 단위를 통합하여 공간-시간 의존성을 공동으로 모델링하기 위해.

제안 방법

• 물리적으로 가까운 센서 간의 공간 상관관계를 모델링하기 위해 거리 기반 그래프를 구축한다.
• 시공간 패턴에서 학습된 잠재적 그래프를 도입하여 기능 역할이 유사한 먼 거리의 센서 간의 구조적 유사성을 포착한다.
• 상대적 공간 관계를 기반으로 각 센서의 이웃을 네 가지 근사적인 영역으로 나누어 계층적 모델링을 가능하게 한다.
• 시간에 따라 변화하는 주의 가중치를 할당하기 위해 학습 가능한 마스크 행렬을 사용한 동적 그래프 컨볼루션을 적용하여 변화하는 공간 의존성을 포착한다.
• 동적 다중 그래프 컨볼루션 모듈을 게이트드 순환 단위(GRU)에 통합하여 시간 역학을 모델링한다.
• 최종 예측을 위해 거리 그래프 및 잠재 그래프의 표현을 융합하는 융합 모듈을 사용한다.

실험 결과

연구 질문

• RQ1 국소적 및 원거리 공간 상관관계를 동시에 모델링하면 교통 예측 정확도가 향상되는가?
• RQ2 정적 인접 행렬을 초월하여 교통 네트워크의 동적 공간 의존성을 효과적으로 포착할 수 있는가?
• RQ3 전체 자기 주의 메커니즘 대비 계층적 영역 기반 주의 메커니즘이 더 낮은 계산 비용으로 공간 관계를 모델링하는 데 더 효과적인가?
• RQ4 동적 다중 그래프 컨볼루션을 순환 단위와 통합함으로써 공간-시간 예측 성능이 얼마나 향상되는가?

주요 결과

• DMGCRN은 실세계 교통 예측 벤치마크 세 곳인 METR-LA, PEMS03, PEMS05에서 최고 성능을 달성한다.
• 제거 실험 결과, 기준 모델 대비 잠재 그래프를 추가함으로써 성능 향상이 뚜렷하게 확인되어 원거리 공간 상관관계 모델링의 가치를 입증한다.
• 고정된 집계 방식(예: 최대값 또는 평균)보다 동적 주의 메커니즘을 통한 영역 가중치가 성능이 뛰어나, 시간에 따라 변화하는 공간 주의의 중요성을 입증한다.
• 학습 가능한 마스크 행렬을 적용한 모델이 성능을 추가로 향상시켜 이웃 영역에 대한 적응적 가중치 부여의 효과를 확인한다.
• 시각화 결과, 잠재 그래프가 유사한 기능을 수행하는 센서(예: 유사한 역할을 하는 교차로)를 효과적으로 포착하고, 주중과 주말 간 주의 가중치에 의미 있는 차이가 있음을 확인한다.