[논문 리뷰] Long-Term Mobile Traffic Forecasting Using Deep Spatio-Temporal Neural Networks

Chaoyun Zhang, Paul Patras|arXiv (Cornell University)|2017. 12. 21.

Traffic Prediction and Management Techniques참고 문헌 18인용 수 9

한 줄 요약

이 논문은 모바일 트래픽의 복잡한 시공간 상관관계를 포착하기 위해 ConvLSTM 및 3D-ConvNet 모델을 활용하는 딥 스파티오타임 네ural 네트워크(STN)와 双중 STN(D-STN) 아키텍처를 제안한다. 이는 최소한의 지표 데이터로도 장기 예측을 매우 정확하게 수행할 수 있도록 한다. D-STN은 ARIMA 및 홀트-윈터스 모델 대비 예측 오차를 최대 61%까지 낮추며, 관측 데이터로 2시간만으로도 성능을 달성한다.

ABSTRACT

Forecasting with high accuracy the volume of data traffic that mobile users will consume is becoming increasingly important for precision traffic engineering, demand-aware network resource allocation, as well as public transportation. Measurements collection in dense urban deployments is however complex and expensive, and the post-processing required to make predictions is highly non-trivial, given the intricate spatio-temporal variability of mobile traffic due to user mobility. To overcome these challenges, in this paper we harness the exceptional feature extraction abilities of deep learning and propose a Spatio-Temporal neural Network (STN) architecture purposely designed for precise network-wide mobile traffic forecasting. We present a mechanism that fine tunes the STN and enables its operation with only limited ground truth observations. We then introduce a Double STN technique (D-STN), which uniquely combines the STN predictions with historical statistics, thereby making faithful long-term mobile traffic projections. Experiments we conduct with real-world mobile traffic data sets, collected over 60 days in both urban and rural areas, demonstrate that the proposed (D-)STN schemes perform up to 10-hour long predictions with remarkable accuracy, irrespective of the time of day when they are triggered. Specifically, our solutions achieve up to 61% smaller prediction errors as compared to widely used forecasting approaches, while operating with up to 600 times shorter measurement intervals.

연구 동기 및 목표

• 제한된 모니터링 데이터를 가진 고밀도 도시 및 농촌 네트워크에서 정확한 장기 모바일 트래픽 예측 문제를 해결하기 위해.
• ARIMA 및 홀트-윈터스와 같은 전통적인 시계열 모델이 공간 상관관계를 忽시하고 장기간의 관측 기간이 필요로 하는 한계를 극복하기 위해.
• 다양한 기지국 간의 시간 추세와 공간적 의존성을 모두 포착하는 딥 러닝 기반 아키텍처를 개발하기 위해.
• 재학습 없이도 다른 도시 간에 효율적이고 재사용 가능한 예측 모델을 가능하게 하기 위해.

제안 방법

• STN 아키텍처는 두 개의 병렬 스트림에서 특징을 융합한다: 시공간 역학을 모델링하기 위한 ConvLSTM 계층과 시간에 따른 공간 패턴을 포착하기 위한 3D-ConvNet 계층.
• 이중 레이어 융합 메커니즘은 ConvLSTM과 3D-ConvNet의 출력을 결합하여 계층적인 시공간 표현을 추출한다.
• 다층 퍼셉트론(MLP)은 융합된 특징을 미래 모바일 트래픽 볼륨 예측으로 매핑한다.
• 오우로보로스 트레이닝 스킴(OTS)은 제한된 지표 관측 데이터만으로 사전 훈련된 STN 모델을 미세조정하여 일반화 능력을 향상시킨다.
• D-STN 기법은 가벼운 융합 메커니즘을 통해 STN 예측 결과와 이전 통계적 추세를 결합하여 STN 예측 성능을 향상시킨다.
• 모델은 밀라노와 트렌티노에서 수집한 실제 60일 간의 모바일 트래픽 데이터셋을 기반으로 도시 및 농촌 환경에 걸쳐 훈련 및 평가되었다.

실험 결과

연구 질문

• RQ1 딥 스파티오타임 네ural 네트워크 아키텍처가 여러 지리적 위치와 시간 간격에 걸쳐 장기 모바일 트래픽 패턴을 효과적으로 모델링할 수 있는가?
• RQ2 기지국 간의 공간 상관관계를 통합할 경우 개별 기지국 예측 대비 정확도가 얼마나 향상되는가?
• RQ3 제한된 지표 관측 데이터로도 미세조정된 딥 러닝 모델이 높은 정확도를 달성할 수 있는 정도는 어느 정도인가?
• RQ4 신경망 예측 결과와 이전 통계를 융합하는 D-STN 기법이 장기 예측 성능을 얼마나 향상시키는가?
• RQ5 제안된 (D-)STN 모델이 재학습 없이도 지리적 레이아웃과 트래픽 볼륨이 다른 다양한 도시 간에 일반화 가능한가?

주요 결과

• 제안된 D-STN은 널리 사용되는 ARIMA 및 홀트-윈터스 지수평활화(HW-ExpS) 방법 대비 최대 61% 낮은 정규화된 평균제곱근오차(NRMSE)를 기록한다.
• D-STN은 지표 데이터로 단지 2시간의 관측만으로도 10시간 예측을 정확하게 수행할 수 있으며, 측정 요구사항을 크게 줄였다.
• ARIMA 및 HW-ExpS가 50일의 관측 기간이 필요한 데 비해, D-STN은 최대 600배 짧은 측정 간격으로 작동한다.
• D-STN은 ConvLSTM, 3D-ConvNet, MLP 및 SVM과 같은 다른 딥 러닝 기준 모델보다 장기 예측 정확도에서 뛰어난 성능을 보였다.
• 한 도시의 데이터로 훈련된 (D-)STN 모델은 재학습 없이도 지리적 레이아웃과 트래픽 패턴이 다른 다른 도시로 효과적으로 일반화된다.
• 오우로보로스 트레이닝 스킴(OTS)은 제한된 지표 데이터로도 STN 모델을 성공적으로 미세조정하여 성능과 적응 능력을 향상시켰다.