[論文レビュー] Explainable Graph Pyramid Autoformer for Long-Term Traffic Forecasting

Weiheng Zhong, Tanwi Mallick+3 more|arXiv (Cornell University)|Sep 27, 2022

Traffic Prediction and Management Techniques被引用数 8

ひとこと要約

本稿では、長期交通予測のための新たなピラミッド自己相関アテンション機構を備えた説明可能なグラフニューラルネットワークX-GPAを提案する。時間的特徴を階層的に抽出し、グラフアテンションによって空間的依存関係をモデル化することで、最先端手法よりも最大35%高い精度を達成するとともに、交通動態の異なる条件下で空間的および時間的要因をアテンションスコアに基づいて説明可能にする。

ABSTRACT

Accurate traffic forecasting is vital to an intelligent transportation system. Although many deep learning models have achieved state-of-art performance for short-term traffic forecasting of up to 1 hour, long-term traffic forecasting that spans multiple hours remains a major challenge. Moreover, most of the existing deep learning traffic forecasting models are black box, presenting additional challenges related to explainability and interpretability. We develop Graph Pyramid Autoformer (X-GPA), an explainable attention-based spatial-temporal graph neural network that uses a novel pyramid autocorrelation attention mechanism. It enables learning from long temporal sequences on graphs and improves long-term traffic forecasting accuracy. Our model can achieve up to 35 % better long-term traffic forecast accuracy than that of several state-of-the-art methods. The attention-based scores from the X-GPA model provide spatial and temporal explanations based on the traffic dynamics, which change for normal vs. peak-hour traffic and weekday vs. weekend traffic.

研究の動機と目的

• 1時間を超える長期交通予測の課題に取り組む。既存のモデルは時間的系列の複雑さと計算コストの高さに苦慮している。
• 道路網における階層的時間的パターンと空間的依存関係をモデル化することで、長期交通予測の精度を向上させる。
• 長期間にわたる時間的依存関係を捉えつつ計算複雑性を低減する、新たなアテンション機構を導入する。
• 予測における空間的および時間的影響を説明可能なアテンションスコアを通じて提供することで、交通管理者の信頼性と洞察を得る。
• 多くの深層学習モデルがブラックボックスであるのを克服し、高精度かつ解釈可能性を両立する長期交通予測の新基準を確立する。

提案手法

• X-GPAは、道路網における走行距離とノード間のペアワイズ関係を用いて、空間的依存関係をグラフアテンションネットワークでモデル化する。
• 時間系列を階層的なパッチで処理し、自己相関を用いて特徴を統合することで、長距離時間的パターンを捉えるピラミッド自己相関アテンション機構を導入する。
• 標準的な$O(n^2)$アテンションと比較して、パッチベースの自己アテンションを用いることで計算複雑性を低減し、長時間系列の効率的処理を可能にする。
• 階層的なパッチ分割戦略により、複数スケールで時間的特徴を抽出し、自己相関による特徴統合で長期依存性学習を強化する。
• トランスフォーマーに基づくアーキテクチャを用いて空間的および時間的表現を統合し、複雑な時空間動態のエンドツーエンド学習を実現する。
• 最終層のアテンションスコアを活用して、予測に影響を与える主要な空間的位置と時間窓を可視化する解釈可能な説明を生成する。

実験結果

リサーチクエスチョン

• RQ1 新たなアテンション機構は、計算効率を保ちながら、交通時間系列における長距離時間的依存関係を効果的にモデル化できるか？
• RQ2 提案されたピラミッド自己相関アテンション機構は、標準的な自己アテンションや再帰的アーキテクチャと比較して、長期交通予測の精度をどのように向上させるか？
• RQ3 モデルのアテンションスコアは、ピーク時と非ピーク時の状況、平日と週末の違いといったさまざまな条件下で、意味的かつ解釈可能な予測説明を提供できるか？
• RQ4 X-GPAは、多様な実世界データセットにおいて、既存の最先端の空間時系列グラフニューラルネットワークを上回る長期交通予測精度を達成できるか？
• RQ5 長時間系列の処理において、既存のアテンションベースや再帰的GNNと比較して、訓練時間の短縮を実現しながらも高い性能を維持できるか？

主な発見

• X-GPAは、PEMS-BayおよびMetr-LAデータセットにおいて、最先端手法比で最大35%高い長期交通予測精度を達成する。
• ケース1（15〜60分予測）では、HAおよびAutoformerを上回り、PEMS-Bayでは15分予測で1.49 mph、30分で1.87 mph、60分で2.23 mphのMAEを記録。Metr-LAでは15分で2.29 mph、30分で2.91 mph、60分で3.76 mphのMAEを達成。
• ケース2（集約された歴史的データ）では、STGCNおよびASTGCNを下回るMAEを記録。PEMS-Bayでは15分で1.32 mph、30分で1.62 mph、60分で1.95 mph。Metr-LAでは15分で2.12 mph、30分で2.72 mph、60分で3.50 mphのMAEを達成。
• ケース3（選択的歴史的入力）では、1.43 mph（15分）、1.79 mph（30分）、2.27 mph（60分）のPEMS-Bayでの最高性能を記録。Metr-LAでは15分で2.49 mph、30分で3.60 mph、60分で4.07 mphのMAEを達成。
• DCRNNおよびASTGCNと比較して、著しく短い訓練時間を実現。PEMS-Bayでは4.5時間、Metr-LAでは3.5時間。対照的に、DCRNNは12,600時間、ASTGCNは1,512時間の訓練時間を要した。
• モデルはアテンションスコアに基づく説明を提供し、通常時とピーク時、平日と週末の交通状況の違いに応じて意味的に異なるパターンを示し、交通動態に関する解釈可能なインサイトを提供する。