[论文解读] Spatial Uncertainty Sampling for End-to-End Control

Alexander Amini, Ava P. Soleimany+2 more|arXiv (Cornell University)|May 13, 2018

Gaussian Processes and Bayesian Inference参考文献 24被引用 15

一句话总结

本文提出一种用于端到端自动驾驶车辆控制的贝叶斯深度神经网络，采用二维空间丢弃（2D spatial dropout）以比标准逐元素丢弃更准确地估计模型不确定性。通过在训练过程中利用特征图的相关性，该方法实现了更紧密的不确定性估计并加快了收敛速度，从而支持一种共享控制框架，当模型不确定性较高时优先采用人类输入。

ABSTRACT

End-to-end trained neural networks (NNs) are a compelling approach to autonomous vehicle control because of their ability to learn complex tasks without manual engineering of rule-based decisions. However, challenging road conditions, ambiguous navigation situations, and safety considerations require reliable uncertainty estimation for the eventual adoption of full-scale autonomous vehicles. Bayesian deep learning approaches provide a way to estimate uncertainty by approximating the posterior distribution of weights given a set of training data. Dropout training in deep NNs approximates Bayesian inference in a deep Gaussian process and can thus be used to estimate model uncertainty. In this paper, we propose a Bayesian NN for end-to-end control that estimates uncertainty by exploiting feature map correlation during training. This approach achieves improved model fits, as well as tighter uncertainty estimates, than traditional element-wise dropout. We evaluate our algorithms on a challenging dataset collected over many different road types, times of day, and weather conditions, and demonstrate how uncertainties can be used in conjunction with a human controller in a parallel autonomous setting.

研究动机与目标

• 为解决端到端深度学习在自动驾驶车辆控制中缺乏可靠不确定性估计的问题。
• 通过在训练过程中利用特征图中的空间相关性，改进模型不确定性估计。
• 开发一种基于预测不确定性的共享自主框架，融合人类与神经网络控制。
• 证明在真实驾驶场景中，空间丢弃相较于逐元素丢弃能产生更紧密、更准确的不确定性估计。

提出的方法

• 该方法采用二维空间丢弃——在整条特征图通道上应用伯努利丢弃掩码——而非逐元素丢弃，以更好地保持空间结构并促进特征图之间的独立性。
• 通过在网络中进行带有空间丢弃的随机前向传播来近似预测分布，将预测均值和方差作为控制输出及其不确定性的估计。
• 将预测方差用作模型置信度的度量，方差越高表示预测的置信度越低。
• 共享控制策略被表述为 $ u_{PA} = (1 - \sigma) \cdot u_N + \sigma \cdot u_H $，其中 $ \sigma = \kappa \cdot \mathrm{Var}(\mathbf{Y}|\mathbf{X}) $，根据不确定性动态加权神经网络与人类命令。
• 网络在真实世界驾驶数据集上端到端训练，使用随机梯度下降最小化逆转向半径的均方误差。

实验结果

研究问题

• RQ1 与逐元素丢弃相比，空间丢弃是否能改善端到端驾驶网络中的不确定性估计？
• RQ2 在训练过程中特征图的相关性如何影响深度神经网络在自动驾驶控制中不确定性估计的质量？
• RQ3 贝叶斯深度神经网络的不确定性估计能否有效用于实现人类与机器之间安全且自适应的共享控制？
• RQ4 在真实驾驶场景中，使用空间丢弃是否能带来更快的收敛速度和更好的泛化能力？

主要发现

• 与逐元素丢弃相比，空间丢弃在训练过程中实现了更快的收敛速度，表现为早期训练周期中损失下降更陡峭。
• 在距离原点较远的数据上，预测方差增加——表明在更紧的弯道处不确定性更高——与预期的模型行为一致。
• 空间丢弃的平均不确定性误差显著低于逐元素丢弃（1.74 vs. 2.67），表明其不确定性量化更可靠。
• 不确定性估计与数据稀疏性一致：训练样本较少的区域表现出更高的方差，证实不确定性反映了数据覆盖范围。
• 共享控制框架成功融合了人类与网络命令，当模型不确定性较高时人类输入占据主导，从而在模糊驾驶条件下实现更安全的操作。