[논문 리뷰] Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting

Yaguang Li, Rose Yu외 2명|arXiv (Cornell University)|2017. 07. 06.

Neural Networks and Applications인용 수 1,797

한 줄 요약

논문은 DCRNN을 도입하는데, 확산-컨볼루션 순환 네트워크로 방향 그래프에서 확산을 통해 시공간 트래픽을 모델링하고, baselines 대비 장기 예측 성능을 개선한다.

ABSTRACT

Spatiotemporal forecasting has various applications in neuroscience, climate and transportation domain. Traffic forecasting is one canonical example of such learning task. The task is challenging due to (1) complex spatial dependency on road networks, (2) non-linear temporal dynamics with changing road conditions and (3) inherent difficulty of long-term forecasting. To address these challenges, we propose to model the traffic flow as a diffusion process on a directed graph and introduce Diffusion Convolutional Recurrent Neural Network (DCRNN), a deep learning framework for traffic forecasting that incorporates both spatial and temporal dependency in the traffic flow. Specifically, DCRNN captures the spatial dependency using bidirectional random walks on the graph, and the temporal dependency using the encoder-decoder architecture with scheduled sampling. We evaluate the framework on two real-world large scale road network traffic datasets and observe consistent improvement of 12% - 15% over state-of-the-art baselines.

연구 동기 및 목표

• 모델링 교통 속도 예측을 도로 네트워크에서 시공간 문제로 정의하고, 방향 그래프에서 이를 수행한다.
• 그래프 구조를 통한 확산 컨볼루션으로 공간 의존성을 포착한다.
• 확산 컨볼루션에 맞춘 순환 유닛으로 시간적 다이나믹스를 모델링한다.
• 인코더-디코더 구조와 스케줄드 샘플링으로 장기 예측을 향상시킨다.
• 대규모 실제 데이터셋에서 baselines 대비 성능 향상을 보여주는 실험적 검증하고자 한다.

제안 방법

• 트래픽 센서를 가중치가 있는 방향 그래프로 나타내고 restart가 있는 무작위 보행을 통해 확산을 정의하여 확산 컨볼루션을 정의한다.
• 학습 가능한 가중치(K-단계 잘림)가 있는 순방향 확산 단계와 역방향 확산 단계를 결합하는 확산 컨볼루션 연산자를 정의한다.
• 확산 필터를 사용해 입력 특징을 출력으로 매핑하는 확산 컨볼루션 계층을 구현한다.
• 표준 GRU/행렬 곱을 확산 컨볼루션으로 대체하여 DCGRU를 만들어 시공간 모델링을 수행한다.
• 장기 예측을 개선하기 위해 scheduled sampling을 사용하는 인코더-디코더 시퀀스-투-시퀀스 프레임워크를 사용한다.
• 실세계 데이터셋에서 미래 시계열의 가능도 최대화를 위해 엔드투엔드로 학습한다.

실험 결과

연구 질문

• RQ1 방향 도로 그래프에서의 확산 과정이 트래픽 신호의 공간 의존성을 어떻게 포착하는가?
• RQ2 확산 기반의 공간 모델링과 시간적 순환을 결합하면 단기 및 장기 예측이 개선되는가?
• RQ3 양방향 확산 대 단일 방향 확산이 예측 정확도에 미치는 영향은?
• RQ4 스케줄링 샘플링이 다단계 예측에서 오차 전파를 완화할 수 있는가?
• RQ5 DCRNN이 스펙트럴/무향 그래프 접근법과 현실적인 교통 네트워크에서 어떻게 비교되는가?

주요 결과

• DCRNN이 METR-LA 및 PEMS-BAY 데이터셋에서 15분, 30분, 1시간 예측 구간에 걸쳐 최첨단 baselines를 능가한다.
• 양방향 확산(전방 및 역방향)이 단방향 확산보다 예측 정확도를 향상시킨다.
• 확산 컨볼루션을 포함하면 공간 컨볼루션이 없는 모델에 비해 검증 오차가 크게 감소한다.
• 스케줄링 샘플링이 다단계 예측에서 오차 전파를 감소시킨다.
• 예측 구간이 길어질수록 DCRNN 및 그 변형들이 더 강한 성능을 보이며, METR-LA 같은 어려운 데이터셋에서 주목할 만한 이득이 있다.