[논문 리뷰] Traffic Volume Prediction using Memory-Based Recurrent Neural Networks: A comparative analysis of LSTM and GRU

Lokesh Chandra Das|arXiv (Cornell University)|2023. 03. 22.

Traffic Prediction and Management Techniques인용 수 4

한 줄 요약

이 논문은 메트로 인터스테이트 트래픽 볼륨 데이터셋을 사용하여 실시간 교통량 예측을 위한 장기 단기 기억(LSTM) 및 게이트드 순환 단위(GRU) 네트워크를 제안하고 평가한다. 결과적으로 짧은 역사적 시퀀스에서는 GRU가 LSTM을 능가하지만, 더 긴 시퀀스에서는 LSTM이 우월함을 보이며, 복잡하고 동적인 교통 환경에서 두 모델 모두 효과적임을 입증한다.

ABSTRACT

Predicting traffic volume in real-time can improve both traffic flow and road safety. A precise traffic volume forecast helps alert drivers to the flow of traffic along their preferred routes, preventing potential deadlock situations. Existing parametric models cannot reliably forecast traffic volume in dynamic and complex traffic conditions. Therefore, in order to evaluate and forecast the traffic volume for every given time step in a real-time manner, we develop non-linear memory-based deep neural network models. Our extensive experiments run on the Metro Interstate Traffic Volume dataset demonstrate the effectiveness of the proposed models in predicting traffic volume in highly dynamic and heterogeneous traffic environments.

연구 동기 및 목표

• 동적이고 복잡한 도시 환경에서 정확한 실시간 교통량 예측에 도전한다.
• 불규칙하거나 비정상적인 교통 패턴에서 실패하는 ARIMA와 같은 파rametric 모델의 한계를 극복한다.
• 비선형 메모리 기반 딥러닝 모델인 LSTM 및 GRU의 단기 교통 예측 성능을 평가한다.
• 역사적 시퀀스 길이와 특징 집합의 변화가 예측 정확도에 미치는 영향을 조사한다.
• LSTM 및 GRU 모델 간의 계산 효율성과 수렴 행동을 비교 분석한다.

제안 방법

• 시간적 의존성을 모델링하기 위해 메모리 기반 RNN으로서 장기 단기 기억(LSTM) 및 게이트드 순환 단위(GRU) 네트워크를 사용한다.
• 예측 작업을 다변량 시계열 문제로 설정하여 $t-l$에서 $t$까지의 과거 관측치를 사용해 $t+1$에서 $t+f$의 향후 교통량을 예측한다.
• 학습 안정성 향상과 수렴 개선을 위해 MinMaxScaler를 사용해 특징 정규화를 수행한다.
• 성능 평가를 위해 24시간 및 6시간의 역사적 윈도우를 사용한다.
• 표준 회귀 평가 지표인 평균 제곱 오차(MSE), 평균 절대 오차(MAE), 평균 절대 백분율 오차(MAPE)를 사용해 모델을 평가한다.
• 다양한 네트워크 아키텍처와 특징 서브셋에 대해 초모수 튜닝을 수행하며, 엔드 투 엔드 학습 및 추론 파이프라인을 구현한다.

Figure 3: Statistics of the dataset

실험 결과

연구 질문

• RQ1 LSTM 및 GRU 모델은 다양한 역사적 시퀀스 길이에서 교통량 예측에 어떻게 비교되는가?
• RQ2 입력 특징 수를 줄일 경우 LSTM 및 GRU 모델의 예측 정확도에 어떤 영향을 미치는가?
• RQ3 다양한 네트워크 구성에서 MSE, MAE, MAPE 측면에서 어떤 모델—LSTM 또는 GRU—가 더 뛰어난 성능을 내는가?
• RQ4 학습 중 LSTM과 GRU 간의 계산 효율성과 수렴 속도는 어떻게 다름?
• RQ5 제한된 역사적 데이터가 있는 상황에서 GRU가 LSTM을 능가할 수 있는가? 그리고 LSTM이 GRU를 능가하는 조건은 무엇인가?

주요 결과

• 짧은 역사적 시퀀스 길이(6시간)에서는 GRU가 모든 테스트 네트워크 설정에서 더 낮은 MSE, MAE, MAPE를 기록하며 LSTM을 능가한다.
• 긴 역사적 시퀀스(24시간)를 사용할 경우 LSTM이 GRU보다 더 우수한 성능을 보이며, 장기적 의존성을 더 잘 포착할 수 있음을 시사한다.
• 시각적 비교를 통해 LSTM 및 GRU 양측 모두 실제 교통량과 매우 유사한 예측 결과를 도출함을 확인할 수 있다.
• GRU는 파rameter 수가 적음에도 불구하고 LSTM보다 수렴 속도가 느리며, 에포크당 더 많은 학습 시간이 소요된다.
• 특징 집합의 선택이 성능에 큰 영향을 미치며, 특징 수를 줄여도 강력한 결과를 도출할 수 있으나, 전체 특징 집합을 사용할 경우 일반적으로 정확도가 향상된다.
• MinMaxScaler를 사용한 정규화 및 예측값의 역변환 과정은 파이프라인에서 필수적이었지만, 계산적으로 매우 비용이 많이 들었다.

Figure 6: MSE, MAE, and MAPE errors of LSTM and GRU by varying neural network settings. The network uses 24 hours of observations to predict the next hour’s traffic volume.