[論文レビュー] Long-Term Mobile Traffic Forecasting Using Deep Spatio-Temporal Neural Networks

Chaoyun Zhang, Paul Patras|arXiv (Cornell University)|Dec 21, 2017

Traffic Prediction and Management Techniques参考文献 18被引用数 9

ひとこと要約

本稿では、ConvLSTMおよび3D-ConvNetモデルを活用して、移動通信トラフィックの複雑な空間時間相関を捉える深層空間時間ニューラルネットワーク（STN）およびダブルSTN（D-STN）アーキテクチャを提案する。これにより、最小限の教師データで高精度な長期予測が可能となる。D-STNは、2時間分の観測データすらも使用した場合、ARIMA や Holt-Winters よりも最大61％低い予測誤差を達成する。

ABSTRACT

Forecasting with high accuracy the volume of data traffic that mobile users will consume is becoming increasingly important for precision traffic engineering, demand-aware network resource allocation, as well as public transportation. Measurements collection in dense urban deployments is however complex and expensive, and the post-processing required to make predictions is highly non-trivial, given the intricate spatio-temporal variability of mobile traffic due to user mobility. To overcome these challenges, in this paper we harness the exceptional feature extraction abilities of deep learning and propose a Spatio-Temporal neural Network (STN) architecture purposely designed for precise network-wide mobile traffic forecasting. We present a mechanism that fine tunes the STN and enables its operation with only limited ground truth observations. We then introduce a Double STN technique (D-STN), which uniquely combines the STN predictions with historical statistics, thereby making faithful long-term mobile traffic projections. Experiments we conduct with real-world mobile traffic data sets, collected over 60 days in both urban and rural areas, demonstrate that the proposed (D-)STN schemes perform up to 10-hour long predictions with remarkable accuracy, irrespective of the time of day when they are triggered. Specifically, our solutions achieve up to 61% smaller prediction errors as compared to widely used forecasting approaches, while operating with up to 600 times shorter measurement intervals.

研究の動機と目的

• 限られた監視データのもとで、都市部および地方部の混雑なネットワークにおける正確な長期的移動通信トラフィック予測の課題に対処すること。
• ARIMA やHolt-Winters といった従来の時系列モデルが空間相関を無視し、長期間の観測を必要とするという限界を克服すること。
• 複数の基地局にわたる時間的傾向と空間的依存関係を両方捉える、ディープラーニングベースのアーキテクチャの開発。
• 再訓練を一切行わずに、異なる都市間で効率的かつ再利用可能な予測モデルを実現すること。

提案手法

• STNアーキテクチャは、空間時間的ダイナミクスをモデル化するConvLSTM層と、時間経過に伴う空間パターンを捉える3D-ConvNet層の2つの並列ストリームの特徴を統合する。
• 2段階の統合メカニズムが、ConvLSTMと3D-ConvNetの出力を組み合わせ、階層的な空間時間表現を抽出する。
• 多層パーセプトロン（MLP）が、統合された特徴を将来の移動通信トラフィック量の最終予測にマッピングする。
• オーロボロストレーニングスキーム（OTS）は、限られた教師データ観測のみを用いて事前学習済みSTNモデルを微調整し、汎化性能を向上させる。
• D-STN技術は、軽量な統合メカニズムを通じて、ニューラルネットワークの予測結果と過去の統計的傾向を組み合わせることで、STNの予測を強化する。
• 本モデルは、ミラノおよびトレントゥーノの実世界の60日分の移動通信トラフィックデータセット（都市部および地方部の展開をカバー）を用いて訓練および評価された。

実験結果

リサーチクエスチョン

• RQ1 複数の地理的場所および時間間隔にわたり、長期的な移動通信トラフィックパターンを効果的にモデル化できる深層空間時間ニューラルネットワークアーキテクチャは存在するか？
• RQ2 基地局間の空間相関を組み込むことで、個々の基地局の予測と比較して、予測精度はどの程度向上するか？
• RQ3 限られた教師データ観測のみで、微調整されたディープラーニングモデルがどの程度高い精度を達成できるか？
• RQ4 ニューラルネットワークの予測結果と過去の統計傾向を統合するD-STN機構は、長期的予測性能をどの程度向上させるか？
• RQ5 地理的レイアウトやトラフィック量が異なる都市間で、提案された(D-)STNモデルが再訓練なしに一般化可能か？

主な発見

• 提案されたD-STNは、広く使用されているARIMAおよびHolt-Winters指数平滑法（HW-ExpS）と比較して、最大61％低い正規化平均二乗誤差（NRMSE）を達成した。
• D-STNは、わずか2時間分の教師データ観測からでも、10時間先のトラフィック予測を高精度に実現でき、測定要件を顕著に削減した。
• D-STNは、ARIMA や HW-ExpS が必要とする50日分の観測期間と比較して、測定インターバルが最大600倍短縮された。
• D-STNは、ConvLSTM、3D-ConvNet、MLP、SVMといった他のディープラーニングベースラインを上回る長期予測精度を示した。
• 一度ある都市のデータで学習が終了した後、(D-)STNモデルは、地理的レイアウトやトラフィックパターンが異なる他の都市へも再訓練なしに効果的に一般化した。
• オーロボロストレーニングスキーム（OTS）は、限られた教師データでSTNモデルを微調整し、性能と適応性を向上させることに成功した。