[論文レビュー] Do We Really Need Graph Neural Networks for Traffic Forecasting?

Xu Liu, Yuxuan Liang+5 more|arXiv (Cornell University)|Jan 30, 2023

Traffic Prediction and Management Techniques被引用数 9

ひとこと要約

論文は SimST を紹介します。グラフなしの時空学習アプローチで、局所的近接モデリングとグローバルセンサ埋め込みを用いて GNN の洞察を近似し、STGNNs と同等の精度を、はるかに高いスループットで達成します。

ABSTRACT

Spatio-temporal graph neural networks (STGNN) have become the most popular solution to traffic forecasting. While successful, they rely on the message passing scheme of GNNs to establish spatial dependencies between nodes, and thus inevitably inherit GNNs' notorious inefficiency. Given these facts, in this paper, we propose an embarrassingly simple yet remarkably effective spatio-temporal learning approach, entitled SimST. Specifically, SimST approximates the efficacies of GNNs by two spatial learning techniques, which respectively model local and global spatial correlations. Moreover, SimST can be used alongside various temporal models and involves a tailored training strategy. We conduct experiments on five traffic benchmarks to assess the capability of SimST in terms of efficiency and effectiveness. Empirical results show that SimST improves the prediction throughput by up to 39 times compared to more sophisticated STGNNs while attaining comparable performance, which indicates that GNNs are not the only option for spatial modeling in traffic forecasting.

研究の動機と目的

• 交通予測のためのグラフニューラルネットワークの必要性を疑問視し、空間モデリングを単純でスケーラブルな構成要素に低減する。
• メッセージパッシングを伴わず GNN の有効性を近似する二つの空間学習モジュールを提案する: 局所的近接モデリングとグローバル相関学習。
• 様々な時系列エンコーダと互換性のプラグアンドプレイを示し、一般化を強化するトレーニング戦略を提案する。
• 五つの交通ベンチマークで最先端 STGNN ベースラインと比較して効率と精度を評価する。

提案手法

• GNN のメッセージパッシングを置換する二つの空間モジュールを導入する: (1) Local Proximity Modeling は ego-グラフとMLPを用いてノードとそのトップ-k の1ホップ隣接ノードの履歴を両方向に処理する; (2) Global Correlation Learning は静的センサ埋め込みをMLPで変換して長距離の空間関係をモデル化する。
• 空間モジュールを様々な時系列エンコーダ（GRU、WaveNet、Causal Transformer）とエンドツーエンドのフレームワークで組み合わせ; 時系列サマリーを位置埋め込みと連結しMLPで予測。
• 一般化を向上させ、メモリ使用を削減するためにノードベースのバッチサンプリング戦略を採用し、各ノード-時間ウィンドウを別個のインスタンスとして扱いサンプル多様性を高める。
• 提案する空間モジュールが適応的隣接行列を持つ典型的なSTGNNに対して直線スケーリングを示す複雑さ分析を提供する。
• 寄与を定量化するアブレーション研究とケース分析を行い、相関学習、近接モデリング、トレーニング戦略の寄与を定量化する。

実験結果

リサーチクエスチョン

• RQ1 交通予測における空間依存性をGNNベースのメッセージパッシングなしで効果的にモデル化できるか？
• RQ2 シンプルな局所およびグローバル空間モジュールで、STGNN の性能に匹敵または上回ると同時にはるかに高い推論スループットを提供できるか？
• RQ3 提案されたトレーニング戦略（ノードベースのサンプリング）は一般化と効率にどのように影響するか？
• RQ4 提案された空間モジュールは異なる時系列バックボーン（GRU、WaveNet、Transformer）とデータセット全体でロバストか？

主な発見

• SimST の各バリアントは、五つの交通ベンチマークで最先端の STGNN と比較して競争力のある精度を達成する。
• SimST はベースラインより最大39x の推論スループットを提供しつつ、性能は同等。
• グローバルセンサ埋め込みと局所エゴグラフモデリングが性能に大きく寄与し、隣接情報が希薄な場合にはグローバルモジュールが特に影響力を持つ。
• ノードベースのバッチサンプリングは一般化を改善し、メモリコストを削減して大規模グラフへのスケーリングを可能にする。
• Transformer は常に優れているわけではない。GRUベースの SimST バリアントが強力であり、単純な空間設計の有効性を示す。