[論文レビュー] Traffic flow prediction using Deep Sedenion Networks

Alabi Bojesomo, Panos Liatsis+1 more|arXiv (Cornell University)|Dec 7, 2020

Traffic Prediction and Management Techniques参考文献 11被引用数 5

ひとこと要約

本稿では、16次元のセデニオン数を用いて静的都市特徴量と12フレームの動的交通データ（5分間隔）を統合的に符号化する、交通フロー予測のための新規なディープ・セデニオン U-Netアーキテクチャを提案する。モデルはTraffic4cast2020チャレンジでテストMSE 1.31e-3を達成し、6つの将来時系列（5〜60分）における速度と流量の予測において、パラメータ効率性と優れた性能を示した。

ABSTRACT

In this paper, we present our solution to the Traffic4cast2020 traffic prediction challenge. In this competition, participants are to predict future traffic parameters (speed and volume) in three different cities: Berlin, Istanbul and Moscow. The information provided includes nine channels where the first eight represent the speed and volume for four different direction of traffic (NE, NW, SE and SW), while the last channel is used to indicate presence of traffic incidents. The expected output should have the first 8 channels of the input at six future timing intervals (5, 10, 15, 30, 45, and 60min), while a one hour duration of past traffic data, in 5mins intervals, are provided as input. We solve the problem using a novel sedenion U-Net neural network. Sedenion networks provide the means for efficient encoding of correlated multimodal datasets. We use 12 of the 15 sedenion imaginary parts for the dynamic inputs and the real sedenion component is used for the static input. The sedenion output of the network is used to represent the multimodal traffic predictions. Proposed system achieved a validation MSE of 1.33e-3 and a test MSE of 1.31e-3.

研究の動機と目的

• 静的都市特徴量と動的交通シーケンスを統合的に1つの表現に統合することで、交通データのマルチモーダル性に対処する。
• 3つの主要都市における複数の将来時系列（5〜60分）における交通速度と流量の予測精度を向上させる。
• セデニオンに基づく畳み込み層を用いることで、表現能力を維持しつつモデルパラメータを削減する。
• 高解像度の交通マップセグメンテーションタスクに特化した、パラメータ効率的でエンドツーエンドのディープラーニングフレームワークを構築する。
• ハイパーコンプレックス数代数を用いた、動的および静的モダリティの早期統合の有効性をU-Netアーキテクチャで示す。

提案手法

• 入力データを16成分のセデニオン数として表現：実部は静的都市特徴量（7チャネル入力）を符号化し、12の虚部は動的交通速度・流量の12過去フレーム（9チャネル入力）を符号化する。
• 各重み成分を16回再利用することでパラメータを削減しながらも、完全な特徴量相互作用を維持する、カスタムのセデニオン畳み込み層を採用する。
• エンコーダ、ボトルネック、デコーダブロックからなるU-Netに類似したアーキテクチャを採用し、初期特徴投影層を除くすべての畳み込み層をセデニオンベースとする。
• 各セデニオン畳み込みの後にバッチ正規化とReLU活性化関数を適用し、エンコーダからデコーダへのスキップ接続を用いて特徴量の回復を実現する。
• 特定の将来時刻（5, 10, ..., 60分）に対応する最終セデニオン出力の成分を抽出することで予測値を取得する。
• 学習率1e-4で開始し、検証損失の変化が止まった際に1e-6に低下させるAdam最適化法を用い、平均二乗誤差（MSE）損失でモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 セデニオンに基づくハイパーコンプレックスネットワークは、動的交通速度・流量と静的都市特徴量の間の相関関係を効果的にモデル化でき、予測性能の向上に寄与するか？
• RQ2 セデニオン表現による動的および静的入力の早期統合は、後期統合や標準的な畳み込みネットワークに比べて交通予測性能を向上させるか？
• RQ3 16次元セデニオン畳み込みを用いることで、予測性能を損なわずにどの程度モデルパラメータが削減されるか？
• RQ4 ベルリン、イスタンブール、モスクワという多様な都市環境（交通パターンが異なる）において、提案アーキテクチャはどの程度一般化性能を示すか？
• RQ5 出力構造を踏まえると、アーキテクチャの変更なしに複数の将来時刻を予測可能か？

主な発見

• 提案されたDeep Sedenion U-Netは、Traffic4cast2020テストセットで検証MSE 1.33893e-3、テストMSE 1.30845e-3を達成し、優れた一般化性能を示した。
• セデニオン重み成分の16出力次元への再利用により、モデルのパラメータ効率性が実現された。
• セデニオン表現による早期統合により、動的交通シーケンスと静的都市特徴量の有効な統合的モデリングが可能となり、予測精度が向上した。
• 16成分出力の構造により、12未来時刻までの予測を直接抽出可能であるため、アーキテクチャは自然にマルチホライゾン予測をサポートする。
• 限られた計算リソース下で、1枚のGPU（RTX 2080 Ti）で訓練されたが、ハイパーパramータ探索の制限にもかかわらず、競争力のある結果を達成した。
• ベルリン、イスタンブール、モスクワの3都市すべてで性能が安定しており、都市のレイアウトや交通パターンの違いに対しても頑健であることが示された。