[論文レビュー] Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting

Yaguang Li, Rose Yu+2 more|arXiv (Cornell University)|Jul 6, 2017

Neural Networks and Applications被引用数 1,797

ひとこと要約

本論文は DCRNN を導入し、交通を拡散に基づく有向グラフ上でモデル化する拡散畳み込み再帰ネットワークを提案し、長期予測をベースラインより改善可能。

ABSTRACT

Spatiotemporal forecasting has various applications in neuroscience, climate and transportation domain. Traffic forecasting is one canonical example of such learning task. The task is challenging due to (1) complex spatial dependency on road networks, (2) non-linear temporal dynamics with changing road conditions and (3) inherent difficulty of long-term forecasting. To address these challenges, we propose to model the traffic flow as a diffusion process on a directed graph and introduce Diffusion Convolutional Recurrent Neural Network (DCRNN), a deep learning framework for traffic forecasting that incorporates both spatial and temporal dependency in the traffic flow. Specifically, DCRNN captures the spatial dependency using bidirectional random walks on the graph, and the temporal dependency using the encoder-decoder architecture with scheduled sampling. We evaluate the framework on two real-world large scale road network traffic datasets and observe consistent improvement of 12% - 15% over state-of-the-art baselines.

研究の動機と目的

• 有向グラフ上の時空問題として道路網における交通速度予測をモデル化する。
• グラフ構造上で拡散畳み込みを用いて空間的依存性を捉える。
• 拡散畳み込みに適応した再帰ユニットを用いて時間的ダイナミクスをモデル化する。
• エンコーダ-デコーダ構成とスケジュールサンプリングを用いて長期予測を強化する。
• 実世界データセットで経験的に検証し、ベースラインより性能向上を示す。

提案手法

• 交通センサーを重み付き有向グラフとして表現し、拡散畳み込みを定義するために再起動付きのランダムウォークを用いて拡散をモデル化する。
• 前方と後方の拡散ステップを学習可能な重みで結合する拡散畳み込み演算子を定義する（K-step truncation）。
• 拡散フィルタを用いて入力特徴を出力へ写像する拡散畳み込み層を実装する。
• 標準のGRU/行列乗算を拡散畳み込みに置換して時空間モデリングのDCGRUを形成する。
• 長期予測を改善するために、スケジュールサンプリングを取り入れたエンコーダ-デコーダのシーケンス・ツー・シーケンスフレームワークを使用する。
• 実世界データセット上で未来の時系列の尤度を最大化するようエンドツーエンドで訓練する。）

実験結果

リサーチクエスチョン

• RQ1 有向道路グラフ上の拡散プロセスは交通信号の空間的依存性をどのように捉えることができるか。
• RQ2 拡散ベースの空間モデルと時相再発の組み合わせは短期および長期の交通予測を改善するか。
• RQ3 予測精度に対する双方向拡散と一方向拡散の影響はどのようになるか。
• RQ4 スケジュールサンプリングを用いたエンコーダ-デコーダは多段予測における誤差伝搬を緩和できるか。
• RQ5 現実的な交通ネットワークにおいて DCRNN はスペクトル/非有向グラフアプローチとどう比較されるか。

主な発見

• DCRNN は METR-LA および PEMS-BAY データセットにおいて、15分、30分、1時間の予測区間で最先端のベースラインを上回る。
• 双方向拡散（前方および後方）は一方向拡散より予測精度を改善する。
• 拡散畳み込みを組み込むと、空間畳み込みを持たないモデルと比べ検証誤差が大きく低下する。
• スケジュールサンプリングを用いたエンコーダ-デコーダは多段予測における誤差伝搬を低減する。
• DCRNNとその派生形は予測区間が長くなるにつれて性能が高くなり、METR-LA のような難易度の高いデータセットで顕著な改善を示す。