[論文レビュー] Forecasting Transportation Network Speed Using Deep Capsule Networks with Nested LSTM Models

Xiaolei Ma, Yi Li+2 more|arXiv (Cornell University)|Nov 1, 2018

Traffic Prediction and Management Techniques参考文献 34被引用数 21

ひとこと要約

本稿では、複雑な交通ネットワークにおける交通速度予測のため、Capsule Network（CapsNet）とネスト型LSTM（NLSTM）を組み合わせた新しい深層学習フレームワークを提案する。CapsNetにより階層的な空間的依存関係を捉え、NLSTMにより多段階の時系列ダイナミクスをモデル化することで、278本のリンクを有する北京のネットワークにおいて、既存のベースラインを上回る精度と頑健性を達成し、最先端の性能を発揮した。

ABSTRACT

Accurate and reliable traffic forecasting for complicated transportation networks is of vital importance to modern transportation management. The complicated spatial dependencies of roadway links and the dynamic temporal patterns of traffic states make it particularly challenging. To address these challenges, we propose a new capsule network (CapsNet) to extract the spatial features of traffic networks and utilize a nested LSTM (NLSTM) structure to capture the hierarchical temporal dependencies in traffic sequence data. A framework for network-level traffic forecasting is also proposed by sequentially connecting CapsNet and NLSTM. On the basis of literature review, our study is the first to adopt CapsNet and NLSTM in the field of traffic forecasting. An experiment on a Beijing transportation network with 278 links shows that the proposed framework with the capability of capturing complicated spatiotemporal traffic patterns outperforms multiple state-of-the-art traffic forecasting baseline models. The superiority and feasibility of CapsNet and NLSTM are also demonstrated, respectively, by visualizing and quantitatively evaluating the experimental results.

研究の動機と目的

• 大規模な交通ネットワークにおける複雑な空間的依存関係と動的な時系列パターンをモデル化する課題に対処すること。
• 知的交通システムにおけるネットワークレベルの交通速度予測の精度と信頼性を向上させること。
• Capsule Networkとネスト型LSTMが交通予測に適用可能で有効であるかを検証すること、これは本分野における新しい応用分野である。
• 実証的評価を通じて、既存の最先端モデルを上回る優れた性能を示すこと。

提案手法

• 空間的・時系列的交通予測のため、CapsNetとNLSTMを逐次接続するハイブリッド深層学習フレームワークを提案する。
• CapsNetを用いて、動的ルーティングにより空間的関係を保持しながら、交通ネットワークからの階層的空間特徴を抽出する。
• ネスト型LSTM（NLSTM）を用いて、交通シーケンス内の多段階の時系列的依存関係をモデル化し、長期的および短期的パターンを捉える。
• 道路リンクの空間的特徴をCapsNetが処理し、その後にNLSTMが時系列モデリングを実行する順序構造を構築する。
• 北京の交通ネットワーク（278リンク）の実世界の交通速度データを用いて、エンド・ツー・エンドのモデルを訓練する。
• RMSEやMAEなどの定量的指標を用いてモデル性能を検証し、複数のSOTAベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 Capsule Networkは、交通ネットワークにおける交通速度予測のため、複雑な空間的依存関係を効果的にモデル化できるか？
• RQ2 ネスト型LSTMは、標準的なRNNやLSTMと比較して、交通速度シーケンス内の階層的時系列ダイナミクスをより効果的に捉えることができるか？
• RQ3 CapsNetとNLSTMの統合は、既存の最先端モデルと比較して、優れた予測性能を発揮するか？
• RQ4 CapsNetの注目メカニズムに類似したルーティング機構とNLSTMの階層的メモリが、予測精度の向上にどのように寄与しているか？

主な発見

• 提案されたCapsNet-NLSTMフレームワークは、278本のリンクを有する北京交通ネットワークにおいて、複数の最先端交通予測モデルを著しく上回った。
• 従来の畳み込み層と比較して、空間的関係を保持し、情報損失を低減することで、CapsNetが優れた空間特徴抽出を実現した。
• NLSTMは階層的時系列的依存関係を効果的に捉え、長期的および短期的交通パターンのモデリングを改善した。
• 可視化結果から、CapsNetが意味のある空間的注目パターンを学習していることが確認された一方、NLSTMは時間ステップにわたって安定したメモリフローを維持していた。
• 定量的結果では、ベースラインモデルと比較してRMSEおよびMAEの値が低く抑えられており、フレームワークの頑健性と精度が確認された。
• 本研究は、CapsNetとNLSTMを交通予測に応用する初の試みであり、本分野におけるその実現可能性と有効性を示した。