[論文レビュー] Uncertainty Quantification for Traffic Forecasting: A Unified Approach

Weizhu Qian, Dalin Zhang+3 more|arXiv (Cornell University)|Aug 11, 2022

Traffic Prediction and Management Techniques被引用数 7

ひとこと要約

本稿では、同時かつ一括してアンビエント的不確実性（aleatoric）とエピステミック的不確実性（epistemic）の両方を定量化する統合的深層学習フレームワーク、DeepSTUQを提案する。モンテカルロドロップアウトと適応的重み平均化（AWA）再訓練、および温度スケーリング補正を組み合わせることで、単一のモデルのみを用いても、点予測および不確実性推定の両面で最先端の性能を達成し、高速な学習、低メモリ使用、効率的な推論を実現する。

ABSTRACT

Uncertainty is an essential consideration for time series forecasting tasks. In this work, we specifically focus on quantifying the uncertainty of traffic forecasting. To achieve this, we develop Deep Spatio-Temporal Uncertainty Quantification (DeepSTUQ), which can estimate both aleatoric and epistemic uncertainty. We first leverage a spatio-temporal model to model the complex spatio-temporal correlations of traffic data. Subsequently, two independent sub-neural networks maximizing the heterogeneous log-likelihood are developed to estimate aleatoric uncertainty. For estimating epistemic uncertainty, we combine the merits of variational inference and deep ensembling by integrating the Monte Carlo dropout and the Adaptive Weight Averaging re-training methods, respectively. Finally, we propose a post-processing calibration approach based on Temperature Scaling, which improves the model's generalization ability to estimate uncertainty. Extensive experiments are conducted on four public datasets, and the empirical results suggest that the proposed method outperforms state-of-the-art methods in terms of both point prediction and uncertainty quantification.

研究の動機と目的

• 既存の交通予測モデルには不確実性定量化の欠如が見られるが、それらは通常、決定論的予測しか提供しないこと。
• データ駆動のばらつき（アレアトリック不確実性）とモデルの不確実性（エピステミック不確実性）を、1つの統合フレームワーク内で推定すること。
• 複数のモデルを学習する計算およびメモリのオーバーヘッドを伴わずに、高い不確実性推定性能を達成する手法を開発すること。
• 温度スケーリングを用いた後処理補正により、不確実性推定の一般化性能とキャリブレーション性能を向上させること。

提案手法

• 交通データに内在する複雑な空間的・時間的依存関係をモデル化するため、空間的・時間的深層学習バックボーン（例：GNN-CNNハイブリッド）を用いる。
• 2つの独立したサブネットワークを、平均と分散の予測に向けたハイブリッド損失関数により学習させることで、アレアトリック不確実性の推定を可能にする。
• エピステミック不確実性の推定には、推論時にモンテカルロドロップアウトを適用し、ベイジアン推論を近似する。一方、新規のAWA（適応的重み平均化）再訓練戦略により、複数のネットワークを学習せずにモデルの多様性を向上させる。
• AWA再訓練法は、複数の確率的最適化経路からの重みを平均化することで、単一のモデルで深層アンサンブルを模倣する形でモデルの一般化性能を向上させる。
• モデルの予測分布に対して、温度スケーリングを用いた後処理補正を施し、PICP や MPIW などのキャリブレーション指標を向上させる。
• DeepSTUQ と呼ばれるこの全フレームワークはエンドツーエンドで学習可能であり、最小限のメモリ使用量で高速な推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 統合的深層学習フレームワークは、交通予測におけるアレアトリック不確実性とエピステミック不確実性の両方を効果的に推定できるか？
• RQ2 複数のモデルを学習せずに、予測の多様性を維持しつつ、エピステミック不確実性を効率的に推定する方法は何か？
• RQ3 温度スケーリングによる後処理補正は、不確実性定量化性能をどの程度向上させるか？
• RQ4 推論時のモンテカルロサンプル数が、精度と推論速度のトレードオフに与える影響は何か？

主な発見

• DeepSTUQ は、4つの公開データセットにおいて、決定論的モデルおよび不確実性認識モデルの両方で、点予測（MAE, RMSE, MAPE）および不確実性定量化（MNLL, PICP, MPIW）の両面で最先端の性能を達成した。
• AWA再訓練法により、標準的な学習に比べて点予測性能が0.5–1.2%（相対的に）向上し、わずか20エポックの追加学習で深層アンサンブルに近い性能を達成した。
• 温度スケーリングによるキャリブレーション補正により、不確実性のキャリブレーション性能が顕著に向上した：PEMS03ではPICPが94.22%から94.75%に上昇し、MPIWは74.51から76.91に上昇した。これは、より良いカバレッジとより狭い予測区間を示している。
• DeepSTUQ の性能は、10–15個のモンテカルロサンプルで飽和するため、高品質な不確実性推定にはわずか数個のサンプルで十分であることが示された。
• エピステミック不確実性とアレアトリック不確実性の両方を推定するアプローチは、片方の不確実性のみを考慮する手法に比べ、優れた性能を発揮した。
• 単一のモデルのみを学習するため、推論が高速かつ低メモリで実現され、交通情報システム（ITS）のリアルタイム応用において実用的である。