[论文解读] Can Autonomous Vehicles Identify, Recover From, and Adapt to Distribution Shifts?

Angelos Filos, Panagiotis Tigkas+4 more|arXiv (Cornell University)|Jun 26, 2020

Mining Techniques and Economics被引用 53

一句话总结

本文提出鲁棒模仿计划（RIP）和自适应 RIP（AdaRIP），利用本体不确定性来检测自动驾驶中的分布偏移、从中恢复，并在需要时可向专家进行在线适应性咨询；它还提出了一个新颖的分布外驾驶基准 CARNOVEL。

ABSTRACT

Out-of-training-distribution (OOD) scenarios are a common challenge of learning agents at deployment, typically leading to arbitrary deductions and poorly-informed decisions. In principle, detection of and adaptation to OOD scenes can mitigate their adverse effects. In this paper, we highlight the limitations of current approaches to novel driving scenes and propose an epistemic uncertainty-aware planning method, called \emph{robust imitative planning} (RIP). Our method can detect and recover from some distribution shifts, reducing the overconfident and catastrophic extrapolations in OOD scenes. If the model's uncertainty is too great to suggest a safe course of action, the model can instead query the expert driver for feedback, enabling sample-efficient online adaptation, a variant of our method we term \emph{adaptive robust imitative planning} (AdaRIP). Our methods outperform current state-of-the-art approaches in the nuScenes \emph{prediction} challenge, but since no benchmark evaluating OOD detection and adaption currently exists to assess \emph{control}, we introduce an autonomous car novel-scene benchmark, exttt{CARNOVEL}, to evaluate the robustness of driving agents to a suite of tasks with distribution shifts.

研究动机与目标

• 激发在自动驾驶中检测和处理超出训练分布的（OOD）场景的需求。
• 开发一种具备本体不确定性感知的规划方法，以检测并从分布偏移中恢复。
• 在不确定性较高时通过向专家咨询实现在线、样本高效的自适应（AdaRIP）。
• 通过新的自动驾驶新场景基准（CARNOVEL）对新颖场景的鲁棒性进行基准测试。
• 在真实数据（nuScenes）和仿真数据上对比评估与最先进基线方法的性能。

提出的方法

• 训练一个自回归贝叶斯模仿模型 q(y|x;θ)，利用最大似然及一组 θ 指示器近似 p(θ|D)，以模仿专家轨迹。
• 通过本体不确定性度量 u(y)=Varθ|D[log q(y|x;θ)] 检测分布偏移。
• 在本体不确定性下通过 RIP 进行规划，优化 y 以在 θ 的后验下最大化模仿先验与目标似然的和（聚合算子 ⊕）。
• 使用两种聚合算子：RIP-WCM（最坏情况模型极小化极大）和 RIP-MA（通过贝叶斯后验进行模型平均），并提及像 CVaR 这样的替代选项。
• AdaRIP 在 RIP 的基础上引入在线专家反馈，以在不确定性高时进行自适应，从而实现安全的在线改进。
• 通过新的基准测试和真实数据实验来证明优势。

实验结果

研究问题

• RQ1 Q1. 自动驾驶方法是否能够在没有显式 OOD 线索的情况下检测分布偏移？
• RQ2 Q2. 这些方法在从分布偏移中恢复方面有多鲁棒？
• RQ3 Q3. RIP 的本体不确定性是否能够有效量化新颖或分布外的场景？
• RQ4 Q4. 明确的恢复机制（AdaRIP）在分布偏移下是否提升了性能？
• RQ5 Q5. RIP 的变体在真实与仿真数据上与最先进基线相比如何？

主要发现

• RIP 与 AdaRIP 在 nuScenes 预测任务以及在 CARNOVEL 的分布偏移情形下均优于最先进基线。
• 本体不确定性通过整个集合的模型分歧使分布偏移得以检测。
• RIP-WCM 和 RIP-MA 在不确定性下提供鲁棒规划，其中 RIP-MA 利用模型平均，RIP-WCM 使用最坏情况考虑。
• AdaRIP 通过在不确定性高时向专家咨询实现在线、样本高效的自适应。
• CARNOVEL 在模拟驾驶场景中对异常转弯、上坡、环岛等任务显示出鲁棒性。
• 基于 RIP 的方法在真实与仿真数据集上均相对于 DIM 等基线显示出有利的性能提升。