[論文レビュー] Neural Network Multitask Learning for Traffic Flow Forecasting

Feng Jin, Shiliang Sun|arXiv (Cornell University)|Dec 24, 2017

Traffic Prediction and Management Techniques参考文献 7被引用数 4

ひとこと要約

本稿では、複数の時系列予測を同時に学習することで汎化性能を向上させる、交通フロー予測のためのマルチタスク学習（MTL）バックプロパゲーションニューラルネットワークを提案する。隣接する時系列における関連する交通フロー情報を補助タスクとして活用することで、単一タスク学習（STL）と比較して平均で9.31%の予測誤差低減を達成し、都市交通予測において優れた精度と頑健性を示した。

ABSTRACT

Traditional neural network approaches for traffic flow forecasting are usually single task learning (STL) models, which do not take advantage of the information provided by related tasks. In contrast to STL, multitask learning (MTL) has the potential to improve generalization by transferring information in training signals of extra tasks. In this paper, MTL based neural networks are used for traffic flow forecasting. For neural network MTL, a backpropagation (BP) network is constructed by incorporating traffic flows at several contiguous time instants into an output layer. Nodes in the output layer can be seen as outputs of different but closely related STL tasks. Comprehensive experiments on urban vehicular traffic flow data and comparisons with STL show that MTL in BP neural networks is a promising and effective approach for traffic flow forecasting.

研究の動機と目的

• 単一タスク学習（STL）が関連タスクからの有用な情報を無視するという限界を是正すること。
• ニューラルネットワークベースの交通フロー予測において、マルチタスク学習（MTL）が汎化性能と予測精度を向上させることを調査すること。
• 複数の将来時刻の交通フローを共有された隠れ表現を用いて同時に予測する、ニューラルネットワークMTLフレームワークの開発と評価を行うこと。
• 実都市交通フローデータを用いて、MTLベースのニューラルネットワークと従来のSTLモデルの性能を比較すること。

提案手法

• 各出力が異なる将来時刻の予測に対応する複数出力のバックプロパゲーション（BP）ニューラルネットワークを設計し、複数の関連タスクを同時にモデル化する。
• すべての時刻予測において隠れ層を共有することで、共通の表現を通じてタスク間の知識移転を可能にする。
• 隣接する時刻の流れの訓練信号を追加タスクとして用い、主な予測タスクの汎化性能を向上させるインダクティブバイアスを提供する。
• 収束を保証するため、訓練誤差の目標値を固定の0.006に設定し、最大300エポックで学習を実行する。
• 予測性能の比較に主に決定根平均二乗誤差（RMSE）を評価指標として用いる。
• 実世界の都市交通フローのデータを用いて、6つの道路リンクで実験を行い、22日間を訓練期間、最終3日間をテスト期間とする。

実験結果

リサーチクエスチョン

• RQ1 マルチタスク学習（MTL）は、単一タスク学習（STL）と比較して、交通フロー予測におけるニューラルネットワークの汎化性能を向上させることができるか？
• RQ2 複数の時刻予測を同時に学習させることで、予測精度とモデルの頑健性にどのような影響を与えるか？
• RQ3 隣接する時刻の関連する交通フローを補助タスクとして用いることで、性能向上の程度はどの程度か？
• RQ4 MTLアプローチは、多様な都市の道路リンクにおいて、STLと比較して予測誤差を低減するか？

主な発見

• MTLニューラルネットワークは、B_b道路リンクにおいてSTLに比べて9.31%の予測精度向上を達成し、RMSEは77.46から70.25に低下した。
• 全6つのテスト道路リンクにおいて、MTLはSTLに比べてRMSEを一貫して低減し、改善率は2.34%から9.31%の範囲にのっていた。
• MTLネットワークの訓練誤差は約125エポックで安定化し、設定されたハイパーパramータのもとで効果的な収束が確認された。
• 関連する時刻予測からのインダクティブバイアスを活用することで、MTLモデルはより優れた汎化性能を示し、より正確な予測を実現した。
• すべてのテストリンクにおいて、性能向上は統計的に有意であり、時系列交通フロー予測におけるMTLの有効性を確認した。
• 結果から、MTLは早期かつより正確な混雑予測を可能にするため、インテリジェント交通システム（ITS）の向上に有望なアプローチであると示唆された。