[論文レビュー] Traffic4cast at NeurIPS 2021 -- Temporal and Spatial Few-Shot Transfer Learning in Gridded Geo-Spatial Processes

Christian Eichenberger, Moritz Neun+35 more|arXiv (Cornell University)|Mar 31, 2022

Traffic Prediction and Management Techniques被引用数 10

ひとこと要約

本論文は、10都市で2年間（2019–2020年）にわたり10¹²件以上のGPSプローブを用いて訓練されたU-NetおよびGraph ResNetアーキテクチャを活用し、多様な都市環境および時間帯における交通状況予測のための少数ショット転移学習フレームワークを提案する。COVID-19発生前データで訓練されたモデルが、1時間分の歴史的交通データと静的レーンマップのみを用いても、顕著なドメインシフトにもかかわらず、COVID-19発生中状況においても効果的に一般化できることを示している。

ABSTRACT

The IARAI Traffic4cast competitions at NeurIPS 2019 and 2020 showed that neural networks can successfully predict future traffic conditions 1 hour into the future on simply aggregated GPS probe data in time and space bins. We thus reinterpreted the challenge of forecasting traffic conditions as a movie completion task. U-Nets proved to be the winning architecture, demonstrating an ability to extract relevant features in this complex real-world geo-spatial process. Building on the previous competitions, Traffic4cast 2021 now focuses on the question of model robustness and generalizability across time and space. Moving from one city to an entirely different city, or moving from pre-COVID times to times after COVID hit the world thus introduces a clear domain shift. We thus, for the first time, release data featuring such domain shifts. The competition now covers ten cities over 2 years, providing data compiled from over 10^12 GPS probe data. Winning solutions captured traffic dynamics sufficiently well to even cope with these complex domain shifts. Surprisingly, this seemed to require only the previous 1h traffic dynamic history and static road graph as input.

研究の動機と目的

• 都市交通予測における時間的および空間的ドメインシフトに対するモデル一般化の課題に対処すること。
• COVID-19発生前データで訓練されたモデルが、異なる都市のCOVID-19発生中状況に一般化できるかどうかを評価すること。
• 限られたラベル付きデータを伴うグリッド型地理空間プロセスにおける少数ショット転移学習の有効性を調査すること。
• 10の多様なメトロポリタン地域と10¹²件のGPSプローブを有する大規模で現実世界のベンチマークを提供し、交通予測における耐障害性を評価すること。

提案手法

• コアチャレンジでは、2019年COVID-19発生前データを各都市ごとに別々に訓練したU-Netアーキテクチャを用い、推論には1時間分の歴史的交通データと静的レーンマップのみを用いる。
• 拡張チャレンジでは、静的レーンマップから導出されたグラフ上で訓練されたGraph ResNetを用い、ノード特徴量は各空間的位置における動的交通データを表す。
• 入力には、4方向のバケットに分けられた12時間ステップ（1時間分）の交通速度および交通量が含まれ、8チャネルテンソルとして符号化される。
• 道路網のノードをピクセルインデックスにマッピングすることで、空間的トポロジーに沿ったメッセージパッシングが可能となるグラフ表現が構築される。
• 予測の精度は、6つの予測ホライズン（5分から60分まで）における平均二乗誤差（MSE）を用いて評価され、ピクセルごとおよびチャネルごとの指標が用いられる。
• ベースラインには、都市固有のデータで訓練され、未知の都市および時間帯で評価される、シンプルなU-NetおよびGraph ResNetが含まれる。

実験結果

リサーチクエスチョン

• RQ1 COVID-19発生前データで訓練されたディープラーニングモデルは、全く異なる都市のCOVID-19発生中状況に対しても一般化可能か？
• RQ2 堅牢な都市間および時間的交通予測に必要な最小限の入力は何か？
• RQ3 顕著なドメインシフトを伴うグリッド型地理空間プロセスにおいて、少数ショット転移学習はどの程度有効か？
• RQ4 静的レーンマップと時間的履歴のみで、多様な都市環境にわたる一般化はどの程度達成可能か？

主な発見

• 優勝ソリューションは、1時間分の歴史的交通データと静的レーンマップのみを用いて2021年Traffic4castチャレンジで優れた性能を達成しており、最小限の入力で複雑なダイナミクスを捉えることができることを示している。
• U-Netアーキテクチャは交通予測において極めて有効であり、複雑な地理空間プロセスにおける特徴抽出能力を示している。
• 2019年のデータで訓練されたモデルは、10の多様な都市において2020年のCOVID-19発生中状況に対しても、移動パターンの顕著な変化にもかかわらず、効果的に一般化した。
• 単純な平均ベースラインは、予測ホライズンが長くなるにつれて誤差が増加したが、予想よりも急激な上昇ではなかったため、交通ダイナミクスに内在する予測可能性が示唆された。
• Graph ResNetベースラインは、たった0.2百万パラメータで競争力ある結果を達成しており、構造的事前知識と組み合わせた軽量モデルが効果的であることを示している。
• ピクセルごとのMSEは、最も頻繁に使用される道路で最も高くなり、特に交通量予測において不確実性が高まっていることを示している。