[论文解读] Deep-Ensemble-Based Uncertainty Quantification in Spatiotemporal Graph Neural Networks for Traffic Forecasting

Tanwi Mallick, Prasanna Balaprakash+1 more|arXiv (Cornell University)|Apr 4, 2022

Traffic Prediction and Management Techniques被引用 6

一句话总结

本文提出了一种可扩展的深度集成方法，用于时空图神经网络在交通预测中的不确定性量化，结合贝叶斯超参数优化与高斯 copula 生成建模，构建多样化 DCRNN 模型。通过分别量化认知不确定性（aleatoric）与认知不确定性（epistemic），该方法在预测准确性和不确定性估计方面均达到最先进性能，在真实世界交通数据上优于现有的贝叶斯与频率学派方法。

ABSTRACT

Deep-learning-based data-driven forecasting methods have produced impressive results for traffic forecasting. A major limitation of these methods, however, is that they provide forecasts without estimates of uncertainty, which are critical for real-time deployments. We focus on a diffusion convolutional recurrent neural network (DCRNN), a state-of-the-art method for short-term traffic forecasting. We develop a scalable deep ensemble approach to quantify uncertainties for DCRNN. Our approach uses a scalable Bayesian optimization method to perform hyperparameter optimization, selects a set of high-performing configurations, fits a generative model to capture the joint distributions of the hyperparameter configurations, and trains an ensemble of models by sampling a new set of hyperparameter configurations from the generative model. We demonstrate the efficacy of the proposed methods by comparing them with other uncertainty estimation techniques. We show that our generic and scalable approach outperforms the current state-of-the-art Bayesian and a number of other commonly used frequentist techniques.

研究动机与目标

• 解决基于深度学习的交通预测模型中不确定性量化严重不足的问题，该问题限制了其在实时部署中的可信度。
• 克服现有不确定性估计技术的局限性，这些技术要么假设输出分布为高斯分布，要么无法扩展至大规模时空数据集。
• 开发一种通用且可扩展的框架，实现基于图神经网络的交通预测中认知不确定性（aleatoric）与认知不确定性（epistemic）的独立估计。
• 通过识别由数据变异性（认知不确定性）或模型分布外泛化能力不足（认知不确定性）导致的高不确定性区域，提升模型可靠性，从而支持更优的交通管理决策。
• 证明所提出方法在准确性和可扩展性方面均优于最先进的贝叶斯与频率学派不确定性估计技术。

提出的方法

• 在 DCRNN 模型中采用联合分位数回归（SQR）损失，直接预测预测区间，而无需假设输出分布为高斯分布。
• 使用可扩展的贝叶斯优化，高效搜索超参数空间，识别高性能的 DCRNN 配置。
• 对高性能超参数配置的联合分布拟合高斯 copula 生成模型，以采样新的、多样化的超参数集合。
• 利用采样的超参数配置训练深度集成 DCRNN 模型，实现稳健的集成预测。
• 对集成预测应用方差分解，将总不确定性分离为认知不确定性（数据驱动）与认知不确定性（模型驱动）两部分。
• 利用可扩展的超参数搜索与分布式训练，确保该方法在大规模交通数据集上保持高效与准确。

实验结果

研究问题

• RQ1 可扩展的深度集成方法能否有效量化时空图神经网络在交通预测中的认知不确定性与认知不确定性？
• RQ2 与现有贝叶斯与频率学派不确定性估计技术相比，所提方法在性能与鲁棒性方面表现如何？
• RQ3 扩大超参数搜索范围在多大程度上提升了最终深度集成的质量与多样性？
• RQ4 认知不确定性与认知不确定性水平如何与交通动态变化（如快速拥堵或流量波动）相关联？
• RQ5 所提出的不确定性分解能否指导实际决策，如调整预测时域或在高不确定性区域触发数据采集？

主要发现

• 所提出的 DCRNN-SQRUQ 方法在预测准确性和不确定性校准方面，均优于最先进的贝叶斯神经网络方法及多种频率学派不确定性估计技术。
• 该方法实现了稳健的均值预测，并有效捕捉了数据变化，尤其在交通动态剧烈变化期间表现突出。
• 在交通行为快速变化的时期，认知不确定性显著上升，反映了不可约的数据变异性，可用于最坏情况的场景规划。
• 当交通模式偏离训练数据分布时，认知不确定性上升，表明模型置信度下降，提示需要重新训练模型或缩短预测时域。
• 高斯 copula 生成模型能以极低计算开销高效生成高性能超参数配置，支持可扩展的集成构建。
• 方差分解方法成功分离并量化了认知不确定性与认知不确定性，为前瞻性交通管理系统提供了可操作的洞察。