[논문 리뷰] Forecasting Transportation Network Speed Using Deep Capsule Networks with Nested LSTM Models

Xiaolei Ma, Yi Li외 2명|arXiv (Cornell University)|2018. 11. 01.

Traffic Prediction and Management Techniques참고 문헌 34인용 수 21

한 줄 요약

이 논문은 복잡한 교통망에서 교통 속도를 예측하기 위해 캡슐 네트워크(CapsNet)와 네스티드 장기 단기 기억(NLSTM) 네트워크를 조합한 새로운 딥러닝 프레임워크를 제안한다. CapsNet을 통해 계층적인 공간적 종속성을 포착하고 NLSTM를 통해 다중 수준의 시간적 동역학을 모델링함으로써, 278개의 링크를 가진 베이징 네트워크에서 기존 베이스라인보다 정확도와 강건성 면에서 최고 성능을 달성한다.

ABSTRACT

Accurate and reliable traffic forecasting for complicated transportation networks is of vital importance to modern transportation management. The complicated spatial dependencies of roadway links and the dynamic temporal patterns of traffic states make it particularly challenging. To address these challenges, we propose a new capsule network (CapsNet) to extract the spatial features of traffic networks and utilize a nested LSTM (NLSTM) structure to capture the hierarchical temporal dependencies in traffic sequence data. A framework for network-level traffic forecasting is also proposed by sequentially connecting CapsNet and NLSTM. On the basis of literature review, our study is the first to adopt CapsNet and NLSTM in the field of traffic forecasting. An experiment on a Beijing transportation network with 278 links shows that the proposed framework with the capability of capturing complicated spatiotemporal traffic patterns outperforms multiple state-of-the-art traffic forecasting baseline models. The superiority and feasibility of CapsNet and NLSTM are also demonstrated, respectively, by visualizing and quantitatively evaluating the experimental results.

연구 동기 및 목표

• 대규모 교통망에서 복잡한 공간적 종속성과 동적인 시간 패턴을 모델링하는 데 도전하는 것.
• 지능형 교통 시스템을 위한 네트워크 수준의 교통 속도 예측 정확도와 신뢰도를 향상시키는 것.
• 캡슐 네트워크와 네스티드 LSTM가 교통 예측에 적용될 수 있는 가능성과 효율성을 탐색하는 것.
• 실증적 평가를 통해 기존 최고 수준의 모델들보다 뛰어난 성능을 입증하는 것.

제안 방법

• 스패티오토럴 교통 예측을 위해 캡슐 네트워크와 네스티드 LSTM를 순차적으로 연결하는 하이브리드 딥러닝 프레임워크를 제안한다.
• 캡슐 네트워크를 사용하여 교통 네트워크의 계층적 공간적 특징을 추출하고, 동적 라우팅을 통해 공간적 관계를 유지한다.
• 네스티드 LSTM(NLSTM)를 활용하여 교통 시계열의 다중 수준 시간적 종속성을 모델링하고, 장기적 및 단기적 패턴을 포착한다.
• 도로 링크의 공간적 특징을 캡슐 네트워크가 처리한 후 시간적 모델링을 위해 네스티드 LSTM가 처리하는 순차적 아키텍처를 구성한다.
• 베이징 교통망의 실세계 교통 속도 데이터를 사용하여 278개 링크의 네트워크에서 종합적인 모델을 훈련시킨다.
• 다양한 최고 수준의 베이스라인과 비교하기 위해 RMSE 및 MAE와 같은 정량적 지표를 사용하여 모델 성능을 검증한다.

실험 결과

연구 질문

• RQ1 캡슐 네트워크는 교통망에서 복잡한 공간적 종속성을 교통 속도 예측에 효과적으로 모델링할 수 있는가?
• RQ2 네스티드 LSTM는 표준 RNN 또는 LSTM보다 교통 속도 시계열의 계층적 시간적 역학을 더 효과적으로 포착할 수 있는가?
• RQ3 캡슐 네트워크와 네스티드 LSTM의 통합은 기존 최고 수준의 모델들보다 우수한 예측 성능을 낼 수 있는가?
• RQ4 캡슐 네트워크의 주목적 유사 라우팅 메커니즘과 네스티드 LSTM의 계층적 메모리가 예측 정확도 향상에 기여하는 방식은 무엇인가?

주요 결과

• 제안된 CapsNet-NLSTM 프레임워크는 278개 링크를 가진 베이징 교통망에서 여러 최고 수준의 교통 예측 모델을 뛰어넘는 성능을 보였다.
• 전통적인 컨볼루션 레이어 대비 공간적 관계를 유지하고 정보 손실을 줄임으로써 캡슐 네트워크가 공간적 특징 추출에서 뛰어난 성능을 보였다.
• 네스티드 LSTM는 계층적 시간적 종속성을 효과적으로 포착하여 장기적 및 단기적 교통 패턴의 모델링을 향상시켰다.
• 시각화 결과 캡슐 네트워크가 의미 있는 공간적 주목 패턴을 학습하는 것으로 확인되었고, 네스티드 LSTM는 시간 단계 간 안정적인 메모리 흐름을 유지함을 입증했다.
• 정량적 결과는 기존 베이스라인 모델들보다 낮은 RMSE 및 MAE 값을 보이며, 프레임워크의 강건성과 정확도를 확인했다.
• 본 연구는 캡슐 네트워크와 네스티드 LSTM를 교통 예측에 적용한 최초의 사례를 확립하였으며, 이 분야에서의 적용 가능성과 효율성을 입증했다.