[論文レビュー] Automated Dilated Spatio-Temporal Synchronous Graph Modeling for Traffic Prediction

Guangyin Jin, Fuxian Li+3 more|arXiv (Cornell University)|Jul 22, 2022

Traffic Prediction and Management Techniques被引用数 8

ひとこと要約

本稿では、拡張畳み込みを用いて長期的・短期的な空間時系列依存関係を捉えるとともに、動的グラフ構造を共同で学習する自動拡張空間時系列同期グラフネットワーク（Auto-DSTSGN）を提案する。4つの実世界の交通予測データセットにおいて、最先端手法よりも約10%の性能向上を達成しながら、効率性と低いGPU使用率を維持している。

ABSTRACT

Accurate traffic prediction is a challenging task in intelligent transportation systems because of the complex spatio-temporal dependencies in transportation networks. Many existing works utilize sophisticated temporal modeling approaches to incorporate with graph convolution networks (GCNs) for capturing short-term and long-term spatio-temporal dependencies. However, these separated modules with complicated designs could restrict effectiveness and efficiency of spatio-temporal representation learning. Furthermore, most previous works adopt the fixed graph construction methods to characterize the global spatio-temporal relations, which limits the learning capability of the model for different time periods and even different data scenarios. To overcome these limitations, we propose an automated dilated spatio-temporal synchronous graph network, named Auto-DSTSGN for traffic prediction. Specifically, we design an automated dilated spatio-temporal synchronous graph (Auto-DSTSG) module to capture the short-term and long-term spatio-temporal correlations by stacking deeper layers with dilation factors in an increasing order. Further, we propose a graph structure search approach to automatically construct the spatio-temporal synchronous graph that can adapt to different data scenarios. Extensive experiments on four real-world datasets demonstrate that our model can achieve about 10% improvements compared with the state-of-art methods. Source codes are available at https://github.com/jinguangyin/Auto-DSTSGN.

研究の動機と目的

• 時間的期間にわたる動的交通依存関係を捉えるために、固定で手作業で作成された空間時系列グラフの限界を克服すること。
• 従来のGCNベースの交通予測モデルにおける分離された時系列および空間モデリングモジュールの非効率性と表現力の制限を克服すること。
• 自動グラフ構造探索を用いて、エンドツーエンドの学習によりグラフ構造と空間時系列表現を同時に学習すること。
• 産業的導入に適した計算効率と低メモリ使用量を維持しながら、予測精度を向上させること。

提案手法

• 拡張係数を段階的に増加させる層を積み重ねることで、長期的・短期的依存関係を捉える自動拡張空間時系列同期グラフ（Auto-DSTSG）モジュールを提案する。
• 異なる可微分グラフ構造探索（GSS）機構を導入し、異なるデータ入力と時間期間に最適な空間時系列同期グラフ（STSG）を自動で学習する。
• 空間グラフ（SGs）と時系列グラフ（TGs）の2種類のグラフを構築する。空間グラフはノード間の近接性を、時系列グラフはノード間のパターン類似度を表す。
• 学習可能なマスクと可微分リラクゼーションを用いて、トレーニング中にグラフトポロジーの勾配ベース最適化を可能にする。
• 学習されたSTSG上でグラフ畳み込みネットワーク（GCNs）を用い、ノードおよび時系列ステップ間でのメッセージ伝達を統合する。
• STSGフレームワーク内に拡張畳み込みを統合し、モデルの深さを増さずに受容 field を拡大する。

Figure 1 : Example of spatial and temporal graph construction and spatio-temporal dependencies in a network. The blue dotted arrows, green dotted arrows and red dotted arrows respectively represents the cross-time self-connection, cross-time geo-spatial relations and cross-time pattern similarities.

実験結果

リサーチクエスチョン

• RQ1 エンドツーエンドでトレーニング可能なフレームワークは、交通予測のためのグラフ構造と空間時系列表現学習を同時に最適化できるか？
• RQ2 固定または適応的グラフ手法と比較して、自動グラフ構造探索は予測精度を向上させるか？
• RQ3 提案された拡張空間時系列同期グラフ設計は、短期的および長期的依存関係の両方を効果的に捉えられるか？
• RQ4 最先端のベースラインと比較して、モデルの効率性およびGPUメモリ使用量はどの程度か？
• RQ5 頑健な性能を得るための最適な隠れ次元とグラフ畳み込みの到達回数は何か？

主な発見

• 本モデルは、4つの実世界の交通データセットにおいて、最先端手法よりも約10%の相対的な精度向上を達成した。
• PEMS04における学習済みSTSGには、時系列接続の平均次数が高いため、より多くの時系列グラフ（TGS）が含まれている。一方、PEMS08ではより多くの空間グラフ（SGs）が観察され、データ固有の構造的適応が示された。
• 探索フェーズ中のGPU使用率は、トレーニング中よりも顕著に低く、これはグラフ構造探索がニューラルアーキテクチャ探索よりも効率的であることを示している。
• 本モデルは低GPU使用率と低時間消費を維持しており、特に拡張畳み込みの導入によりモデル複雑度が低減されたことにより、STFGNN や STGODE よりも効率に優れている。
• PEMS04では隠れ次元48、最大到達回数2が最適であり、PEMS08では隠れ次元48、最大到達回数3が最適であった。より高い次元や到達回数では過学習が観察された。
• 学習済みSTSGの可視化により、モデルがデータ特性に応じてグラフトポロジーを適応させていることが確認された。特に、空間時系列相関が強い領域では接続性が高くなっている。

Figure 2 : Spatio-temporal synchronous graph construction in previous works. (a) is the adjacency matrix in STSGCN and (b) is the adjacency matrix in STFGNN. $SG^{t_{i}}$ and $TG^{t_{i}}$ respectively denote the spatial graph and temporal graph at time step $i$ . $TC^{t_{i}\to t_{j}}$ describes the