[논문 리뷰] Predicting Citywide Crowd Flows Using Deep Spatio-Temporal Residual Networks

Junbo Zhang, Yu Zheng외 4명|arXiv (Cornell University)|2017. 01. 10.

Traffic Prediction and Management Techniques참고 문헌 25인용 수 31

한 줄 요약

이 논문은 공간적 종속성(근접 및 원거리), 시간 패턴(근접성, 주기성, 추세) 및 날씨와 같은 외부 요인을 모델링함으로써 도시 전역의 인파 유입 및 유출을 예측하는 딥 스파티오타임 리스크 네트워크인 ST-ResNet을 제안한다. 이 모델은 시간적 특성에 대해 세 개의 병렬 브랜치와 가용 학습 가능 융합 메커니즘을 갖춘 잔차 학습을 사용하여 베이징과 뉴욕시 데이터셋에서 최신 기술 수준의 성능을 달성하며, 9개의 베이스라인을 초월한다.

ABSTRACT

Forecasting the flow of crowds is of great importance to traffic management and public safety, and very challenging as it is affected by many complex factors, including spatial dependencies (nearby and distant), temporal dependencies (closeness, period, trend), and external conditions (e.g., weather and events). We propose a deep-learning-based approach, called ST-ResNet, to collectively forecast two types of crowd flows (i.e. inflow and outflow) in each and every region of a city. We design an end-to-end structure of ST-ResNet based on unique properties of spatio-temporal data. More specifically, we employ the residual neural network framework to model the temporal closeness, period, and trend properties of crowd traffic. For each property, we design a branch of residual convolutional units, each of which models the spatial properties of crowd traffic. ST-ResNet learns to dynamically aggregate the output of the three residual neural networks based on data, assigning different weights to different branches and regions. The aggregation is further combined with external factors, such as weather and day of the week, to predict the final traffic of crowds in each and every region. We have developed a real-time system based on Microsoft Azure Cloud, called UrbanFlow, providing the crowd flow monitoring and forecasting in Guiyang City of China. In addition, we present an extensive experimental evaluation using two types of crowd flows in Beijing and New York City (NYC), where ST-ResNet outperforms nine well-known baselines.

연구 동기 및 목표

• 복잡한 공간적, 시간적, 외부 요인에 의해 영향을 받는 도시 전역의 인파 유동 예측 문제를 해결하기 위해.
• 지역적 및 장거리 공간적 종속성을 모두 포착할 수 있는 엔드 투 엔드 딥 러닝 모델을 개발하기 위해.
• 예측 정확도 향상을 위해 날씨와 요일과 같은 외부 요인을 예측 프레임워크에 통합하기 위해.
• 실시간 클라우드 기반 시스템을 구축하여 도시 환경에서의 인파 유동을 모니터링하고 예측하기 위해.
• 베이징과 뉴욕시와 같은 다양한 도시 환경에서 기존의 베이스라인을 초월하여 유입 및 유출 예측 성능을 향상시키기 위해.

제안 방법

• 모델은 인파 유동 데이터의 복잡한 스파티오타임 종속성을 학습하기 위해 잔차 신경망 아키텍처를 사용한다.
• 세 개의 병렬 잔차 컨볼루션 브랜치가 각각 시간적 근접성, 주기성, 추세 패턴을 별도로 모델링하도록 설계되었다.
• 각 브랜치는 컨볼루션 레이어를 통해 국소적이고 먼 거리의 공간적 관계를 포착하는 잔차 유닛을 사용하여 공간적 특징을 처리한다.
• 입력 데이터에 기반하여 출력값에 대해 학습 가능한 가중치를 동적으로 할당하는 매개변수 기반 행렬 기반 융합 메커니즘이 도입되었다.
• 날씨와 요일과 같은 외부 요소는 최종 예측 이전에 융합된 특징에 연결된다.
• 역전파를 통해 손실을 최소화하면서 역사적 인파 유동 데이터를 사용해 엔드 투 엔드로 모델을 훈련시켰다.

실험 결과

연구 질문

• RQ1 딥 러닝 모델은 도시 전역의 인파 유동에서 지역적 및 장거리 공간적 종속성을 효과적으로 포착할 수 있는가?
• RQ2 통합 아키텍처는 근접성, 주기성, 추세와 같은 다중 시간 패턴을 동시에 얼마나 잘 모델링할 수 있는가?
• RQ3 날씨와 이벤트와 같은 외부 요소를 통합할 경우 예측 정확도가 얼마나 향상되는가?
• RQ4 제안된 모델은 다양한 도시 구조와 이동 패턴을 가진 도시 간에 일반화 가능한가?
• RQ5 제안된 ST-ResNet은 예측 성능 측면에서 기존의 9개의 베이스라인과 비교해 어떻게 성과를 내는가?

주요 결과

• ST-ResNet은 베이징과 뉴욕시 데이터셋에서 9개의 최신 기술 수준의 베이스라인을 모두 뛰어넘는 성능을 보였다.
• 잔차 컨볼루션 유닛을 통해 근접 및 먼 지역의 공간적 종속성을 효과적으로 모델링함으로써 뛰어난 성능을 달성했다.
• 학습 가능한 매개변수 기반의 동적 융합 메커니즘 덕분에 근접성, 주기성, 추세 구성 요소의 기여도를 적응적으로 가중할 수 있었다.
• 날씨와 요일과 같은 외부 요소를 통합함으로써 예측 정확도가 향상되었으며, 이는 이들이 인파 이동에 미치는 영향이 크다는 것을 입증했다.
• 마이크로소프트 애저 클라우드 기반의 실시간 UrbanFlow 시스템은 중국 귀양에서 인파 유동을 성공적으로 모니터링하고 예측하여 모델의 구현 가능성과 타당성을 입증했다.
• 코드와 데이터셋이 공개되어 있어 재현성 및 도시 컴퓨팅 분야의 향후 연구를 지원하고 있다.