[논문 리뷰] Dynamic Spatial-Temporal Representation Learning for Traffic Flow Prediction

Lingbo Liu, Jiajie Zhen외 5명|arXiv (Cornell University)|2019. 09. 02.

Traffic Prediction and Management Techniques참고 문헌 56인용 수 15

한 줄 요약

이 논문은 동적 공간-시간 의존성을 적응형 주의 맵을 사용하여 동적으로 모델링하는 주의 강화된 ConvLSTM 아키텍처인 Attentive Traffic Flow Machine(ATFM)을 제안한다. 이 방법은 공개 벤치마크에서 교통 흐름 및 승객 수요 예측 모두에서 최신 기술 수준(SOTA) 성능을 달성하며, 장기 예측 과제에서 기존 모델보다 최대 16.58% 향상된 성능을 기록한다.

ABSTRACT

As a crucial component in intelligent transportation systems, traffic flow prediction has recently attracted widespread research interest in the field of artificial intelligence (AI) with the increasing availability of massive traffic mobility data. Its key challenge lies in how to integrate diverse factors (such as temporal rules and spatial dependencies) to infer the evolution trend of traffic flow. To address this problem, we propose a unified neural network called Attentive Traffic Flow Machine (ATFM), which can effectively learn the spatial-temporal feature representations of traffic flow with an attention mechanism. In particular, our ATFM is composed of two progressive Convolutional Long Short-Term Memory (ConvLSTM \cite{xingjian2015convolutional}) units connected with a convolutional layer. Specifically, the first ConvLSTM unit takes normal traffic flow features as input and generates a hidden state at each time-step, which is further fed into the connected convolutional layer for spatial attention map inference. The second ConvLSTM unit aims at learning the dynamic spatial-temporal representations from the attentionally weighted traffic flow features. Further, we develop two deep learning frameworks based on ATFM to predict citywide short-term/long-term traffic flow by adaptively incorporating the sequential and periodic data as well as other external influences. Extensive experiments on two standard benchmarks well demonstrate the superiority of the proposed method for traffic flow prediction. Moreover, to verify the generalization of our method, we also apply the customized framework to forecast the passenger pickup/dropoff demands in traffic prediction and show its superior performance. Our code and data are available at {\color{blue}\url{https://github.com/liulingbo918/ATFM}}.

연구 동기 및 목표

• 딥 러닝을 활용하여 도시 교통 흐름의 복잡하고 비정상적인 공간-시간 의존성을 모델링하는 과제를 해결한다.
• 기존 교통 예측 방법에서의 정적 공간 모델링 및 고정된 시간 표현 방식의 한계를 극복한다.
• 통합 프레임워크를 통해 순차적 추세, 주기적 패턴(예: 정체 시간대) 및 외부 요인을 적응적으로 통합한다.
• 제안된 방법을 승객 수요 예측과 같은 유사 과제로 일반화한다.
• 실제 도시 환경에서 단기 및 장기 교통 흐름 예측의 정확도를 향상시킨다.

제안 방법

• 원시 교통 흐름 입력을 처리하고 은닉 상태를 생성하는 첫 번째 ConvLSTM을 갖는 이중 단계 신경망인 ATFM을 제안한다.
• 은닉 상태를 바탕으로 합성곱층을 통해 공간 주의 맵을 추론하여 관련 영역에 대한 동적 집중을 가능하게 한다.
• 주의 맵에 기반한 가중치가 부여된 특징을 두 번째 ConvLSTM에 입력하여 동적 공간-시간 표현을 학습한다.
• 시간에 따라 변화하는 융합 모듈을 사용하여 순차적 및 주기적 패턴을 적응적으로 통합한다.
• 단기 예측을 위한 SPN 및 장기 예측을 위한 SPN-LONG이라는 두 가지 엔드 투 엔드 프레임워크를 개발한다.
• 실세계 이동 데이터(예: GPS, 택시/자전거 이동 경로)를 활용하여 입력으로 사용할 격자 기반 교통 흐름 지도를 생성한다.

실험 결과

연구 질문

• RQ1 시간이 지남에 따라 변화하는 교통 흐름의 동적 공간 의존성을 효과적으로 모델링할 수 있는 방법은 무엇인가?
• RQ2 주의 메커니즘이 교통 흐름 예측에서 공간-시간 특징 표현에 기여할 수 있는가?
• RQ3 제안된 방법은 표준 교통 흐름 예측 벤치마크에서 최신 기술 수준(SOTA) 모델과 비교해 어떻게 성능을 내는가?
• RQ4 ATFM 프레임워크는 승객 수요 예측과 같은 다른 도시 이동 예측 과제로 얼마나 잘 일반화될 수 있는가?
• RQ5 대규모 도시 환경에서 예측 정확도에 있어 공간 해상도와 시간 해상도의 영향은 어느 정도인가?

주요 결과

• 단기 교통 흐름 예측에서 가장 큰 공간 해상도($30\times10$)에서 ATFM 기반 SPN 프레임워크는 RMSE 7.38과 MAE 3.96을 기록한다.
• 승객 수요 예측 과제에서 SPN은 RMSE 17.29와 MAE 9.91을 기록하며, PredRNN 및 ST-ResNet을 포함한 모든 베이스라인을 초월한다.
• SPN-LONG는 2.0시간 예측 수준에서 PredRNN 대비 16.58% 성능 향상을 기록했으며, RMSE는 24.45로 29.31보다 낮다.
• 공간 해상도가 높아질수록 성능 향상이 이루어지지만, $15\times5$ 또는 $20\times7$를 초과하면 수익 감소와 과도한 분할 위험이 발생한다.
• 단기 및 장기 수요 예측 모두에서 기준 모델 HA(RMSE: 39.02)와 기타 딥 러닝 모델보다 상당히 뛰어난 성능을 기록한다.
• 제거 실험 결과 주의 메커니즘과 동적 융합 모듈이 복잡한 공간-시간 패턴을 포착하는 데 핵심 요소임을 확인한다.