[論文レビュー] Dynamic Graph Convolutional Recurrent Network for Traffic Prediction: Benchmark and Solution

Fuxian Li, Jie Feng+4 more|arXiv (Cornell University)|Apr 30, 2021

Traffic Prediction and Management Techniques被引用数 4

ひとこと要約

本稿では、交通ネットワーク内の変化する空間的依存関係をモデル化するために、ハイパーネットを用いて各タイムステップで動的グラフトポロジーを生成する、新しいフレームワークである動的グラフ畳み込み再帰型ネットワーク（DGCRN）を提案する。動的グラフと静的グラフを統合し、RNNの学習効率を最適化することで、3つのベンチマークデータセットで最先端の性能を達成し、標準化されたベンチマークと新規データセットを用いた公平な評価のもとで、15のベースラインを上回った。

ABSTRACT

Traffic prediction is the cornerstone of an intelligent transportation system. Accurate traffic forecasting is essential for the applications of smart cities, i.e., intelligent traffic management and urban planning. Although various methods are proposed for spatio-temporal modeling, they ignore the dynamic characteristics of correlations among locations on road networks. Meanwhile, most Recurrent Neural Network (RNN) based works are not efficient enough due to their recurrent operations. Additionally, there is a severe lack of fair comparison among different methods on the same datasets. To address the above challenges, in this paper, we propose a novel traffic prediction framework, named Dynamic Graph Convolutional Recurrent Network (DGCRN). In DGCRN, hyper-networks are designed to leverage and extract dynamic characteristics from node attributes, while the parameters of dynamic filters are generated at each time step. We filter the node embeddings and then use them to generate a dynamic graph, which is integrated with a pre-defined static graph. As far as we know, we are the first to employ a generation method to model fine topology of dynamic graph at each time step. Further, to enhance efficiency and performance, we employ a training strategy for DGCRN by restricting the iteration number of decoder during forward and backward propagation. Finally, a reproducible standardized benchmark and a brand new representative traffic dataset are opened for fair comparison and further research. Extensive experiments on three datasets demonstrate that our model outperforms 15 baselines consistently.

研究の動機と目的

• 静的または適応的隣接行列の限界を克服し、交通ネットワーク内の動的空間的相関を捉えること。
• 学習中のデコーダー反復回数を制限することで、RNNベースの交通予測モデルの効率性と性能を向上させること。
• 再現可能で標準化されたベンチマークと、代表的な交通データセットを新規に構築し、異なる手法間の公平な比較を可能とすること。
• 静的距離ベースのグラフと動的属性ベースのグラフの両方を統合し、空間的依存関係のモデル化を強化すること。
• 動的グラフ生成が、長距離および短距離の交通予測精度を向上させる有効性を実証すること。

提案手法

• ハイパーネットがノード属性に基づき各タイムステップで動的グラフフィルタパラメータを生成し、時間に依存する空間的モデリングを可能にする。
• ノード埋め込みのフィルタリングと事前に定義された静的グラフの統合により、動的グラフ構築が行われ、ハイブリッドトポロジーが形成される。
• 順伝播および逆伝播の過程で反復回数を制限する戦略を採用することで、性能に損なわれることなく学習効率が向上する。
• 時系列モデリングには、ゲート付き再帰ユニット（GRUs）を用いたシーケンス・ツー・シーケンスアーキテクチャを採用し、スケジュールドサンプリングにより性能が向上する。
• ノード埋め込みは空間的および時間的特徴から学習され、ハイパーネット内のGNNが高階の空間的依存関係を捉える。
• 動的グラフジェネレータはエンド・トゥ・エンドで学習され、空間的および時間的表現学習を同時に最適化する。

実験結果

リサーチクエスチョン

• RQ1 各タイムステップでの動的グラフ構築は、静的または適応的グラフと比較して交通予測精度を向上させるか？
• RQ2 動的グラフと静的グラフの統合は、複雑な空間時系列依存関係を捉える上で性能にどのように影響するか？
• RQ3 ハイパーネットを用いた動的フィルタ生成は、リアルタイムでの交通相関変化のモデル化にどのような影響を及ぼすか？
• RQ4 学習中のRNNデコーダーの反復回数を制限することは、効率性と予測性能にどのように影響するか？
• RQ5 提案されたベンチマークとデータセットは、異なるモデル間での公平かつ再現可能な評価をどの程度可能にするか？

主な発見

• DGCRNは3つのデータセットで15の最先端ベースラインを上回り、MAEおよびRMSE指標において一貫した優位性を示した。
• 動的グラフ生成機構は、特に静的グラフと組み合わせることで、長距離予測の精度を顕著に向上させた。
• DGCRNの最適な隠れ状態次元は約64であり、それ以上の値では過学習が発生した。
• NE-BJデータセットでは、ノード埋め込み次元が80〜100の範囲で最高の性能を示し、より高い複雑性にはより豊かな表現が必要であることを示した。
• ハイパーネット内のGNNの次元はバランスが重要であり、高すぎると過学習が生じ、16〜32の範囲で最適な向上が得られた。
• METR-LAではスケジュールドサンプリングのデイリーデクリメントステップが4000のときに最良の性能を示し、ハイパーパramータチューニングの重要性を確認した。