[论文解读] Guaranteeing Safety of Learned Perception Modules via Measurement-Robust Control Barrier Functions

Sarah Dean, Andrew J. Taylor+3 more|arXiv (Cornell University)|Oct 29, 2020

Control Systems and Identification被引用 24

一句话总结

本文提出测量鲁棒控制障碍函数（MR-CBFs），这是一种新颖的框架，可在测量模型存在不确定性的情况下，确保非线性控制系统的安全性。通过将最坏情况下的估计误差边界整合到基于凸优化的控制器中，MR-CBFs 即使在感知系统（如基于摄像头的状态估计算法）引入误差时，也能维持安全保证，该结论已在采用学习型感知模型的 Segway 系统仿真中得到验证。

ABSTRACT

Modern nonlinear control theory seeks to develop feedback controllers that endow systems with properties such as safety and stability. The guarantees ensured by these controllers often rely on accurate estimates of the system state for determining control actions. In practice, measurement model uncertainty can lead to error in state estimates that degrades these guarantees. In this paper, we seek to unify techniques from control theory and machine learning to synthesize controllers that achieve safety in the presence of measurement model uncertainty. We define the notion of a Measurement-Robust Control Barrier Function (MR-CBF) as a tool for determining safe control inputs when facing measurement model uncertainty. Furthermore, MR-CBFs are used to inform sampling methodologies for learning-based perception systems and quantify tolerable error in the resulting learned models. We demonstrate the efficacy of MR-CBFs in achieving safety with measurement model uncertainty on a simulated Segway system.

研究动机与目标

• 解决在状态估计受测量模型不确定性影响时，确保控制系统安全性的关键挑战。
• 开发一个正式框架，将估计误差的鲁棒性整合到控制障碍函数（CBFs）中。
• 指导感知模型的数据采集与学习，使最终误差保持在安全所需的可容忍范围内。
• 在不牺牲理论安全保证的前提下，使数据驱动的感知系统可用于安全关键型控制应用。
• 在基于视觉的状态估计算法的 Segway 系统真实仿真中，展示 MR-CBFs 的实际可行性。

提出的方法

• 将测量鲁棒控制障碍函数（MR-CBF）定义为标准 CBF 的推广，以考虑由于测量模型不确定性导致的状态估计有界误差。
• 将估计误差下的安全条件表述为二阶锥约束，保持凸性，从而支持实时在线优化。
• 将 MR-CBF 条件集成到基于二次规划（QP）的控制器中，实现安全控制输入的高效在线计算。
• 采用数据驱动学习方法——具体为带有径向基函数的核岭回归——从摄像头图像中估计系统状态，标签数据由带噪声的惯性测量生成。
• 利用 MR-CBF 框架量化学习型感知模型中可容忍的最大误差，确保由此产生的状态估计误差保持在维持安全性的边界内。
• 设计一种基于 MR-CBF 的采样策略，指导数据采集，确保模型泛化所需的充分覆盖。

实验结果

研究问题

• RQ1 如何将控制障碍函数扩展，以在状态估计受测量模型不确定性影响时仍能确保安全性？
• RQ2 在基于 CBF 的控制器下，学习型感知模型中允许的最大误差是多少，仍能维持安全保证？
• RQ3 如何指导感知模型的数据采集，以确保估计误差保持在安全所需的边界内？
• RQ4 MR-CBF 能否在不牺牲计算效率的前提下，有效集成到实时优化型控制器中？
• RQ5 当应用于具有视觉状态估计算法的非线性不稳定系统（如 Segway）时，MR-CBF 的实际表现如何？

主要发现

• 在存在恒定 0.2 rad 的俯仰角测量偏移时，MR-OP 滤波器成功维持了系统安全，而标准 CBF-QP 滤波器则导致了安全违规。
• 在数据驱动场景中，当学习型感知模型的最大估计误差为 0.201 rad 时，MR-OP 滤波器仍确保了安全集的不变性，而标准 CBF-QP 滤波器因状态估计不安全而失效。
• 核岭回归模型的实际误差（最大 0.183 rad）低于可行性所需的理论上限 0.2，验证了误差量化框架的有效性。
• 标准 CBF-QP 滤波器的布尔安全组合 $ h_b = \min\{h_{e1}, h_{e2}\} $ 低于零，表明发生安全违规，而 MR-OP 滤波器始终保持 $ h_b > 0 $，确认了安全性。
• MR-CBF 框架使使用带有噪声训练数据（高斯噪声，σ = 0.1）的学习型感知模型成为可能，同时仍能保证安全，展示了对真实世界传感器缺陷的鲁棒性。
• 理论分析与仿真结果共同表明，MR-CBF 保持了凸性，可高效实现实时控制回路中的在线应用，适用于实际实时场景。