[论文解读] Safe Control under Uncertainty

Dorsa Sadigh, Ashish Kapoor|arXiv (Cornell University)|Oct 25, 2015

Formal Methods in Verification参考文献 32被引用 10

一句话总结

该论文提出概率信号时序逻辑（PrSTL），一种用于在不确定性环境下对网络物理系统中的概率安全属性进行规范的新逻辑。该方法利用贝叶斯图模型与混合整数半定规划，实现自适应、数据驱动的控制器综合，在自动驾驶汽车与四旋翼飞行器中实现了具有概率碰撞避免保证的安全控制。

ABSTRACT

Controller synthesis for hybrid systems that satisfy temporal specifications expressing various system properties is a challenging problem that has drawn the attention of many researchers. However, making the assumption that such temporal properties are deterministic is far from the reality. For example, many of the properties the controller has to satisfy are learned through machine learning techniques based on sensor input data. In this paper, we propose a new logic, Probabilistic Signal Temporal Logic (PrSTL), as an expressive language to define the stochastic properties, and enforce probabilistic guarantees on them. We further show how to synthesize safe controllers using this logic for cyber-physical systems under the assumption that the stochastic properties are based on a set of Gaussian random variables. One of the key distinguishing features of PrSTL is that the encoded logic is adaptive and changes as the system encounters additional data and updates its beliefs about the latent random variables that define the safety properties. We demonstrate our approach by synthesizing safe controllers under the PrSTL specifications for multiple case studies including control of quadrotors and autonomous vehicles in dynamic environments.

研究动机与目标

• 为解决现有形式化框架中缺乏将基于机器学习的预测与安全保证相结合的问题。
• 将系统属性中的不确定性建模为非确定性约束，而是基于学习分布的概率谓词。
• 开发一种滚动时域控制综合方法，实现实时动态适应对潜变量的信念演化。
• 在考虑传感器数据、预测结果与环境动态不确定性的时间逻辑规范下，实现安全控制器的综合。
• 通过自动驾驶与四旋翼飞行器控制的案例研究，验证该框架在概率安全保证下的有效性。

提出的方法

• 提出概率信号时序逻辑（PrSTL），一种在信号时序逻辑基础上扩展了由随机变量参数化的概率谓词的形式化方法。
• 使用贝叶斯图模型表示系统属性中的不确定性，特别将速度与位置预测建模为高斯随机变量。
• 将碰撞避免等安全约束编码为概率谓词，例如 P(distance ≥ δ) ≥ 1−ε，其中 δ 为最小安全距离，ε 为可接受的故障概率。
• 采用滚动时域控制框架，控制器通过求解混合整数半定规划（MISDP）在有限时间范围内满足 PrSTL 规范。
• 随着新数据的到达动态调整逻辑，更新潜变量的后验分布，并相应地重新制定概率谓词。
• 实现了一个控制器综合工具箱，并在环境车辆运动与风力扰动存在不确定性的自动驾驶与四旋翼飞行器控制任务中进行了评估。

实验结果

研究问题

• RQ1 如何将时序逻辑规范扩展以表达源自不确定、学习模型的概率安全属性？
• RQ2 当系统属性由贝叶斯预测模型定义而非确定性值时，控制器综合框架是否仍能维持安全保证？
• RQ3 逻辑与控制器的自适应性如何在不确定性演化过程中提升安全性与性能？
• RQ4 环境预测中的不确定性（如车辆速度）对动态环境中控制器行为有何影响？
• RQ5 所提出的框架能否有效应用于真实世界的网络物理系统，如自动驾驶汽车与四旋翼飞行器？

主要发现

• 该框架成功为自动驾驶汽车合成出安全控制策略，当环境车辆速度不确定性较高（σ = 0.4）时，本车采取保守策略，等待以避免碰撞。
• 在无不确定性（σ = 0）时，本车更早执行右转，表明控制器能根据预测置信度自适应调整行为。
• 控制器在所有时间步均实现碰撞避免保证，P ≥ 0.8（ε = 0.2），在不确定性下确保高可靠性。
• 利用高斯分布的速度估计可将概率谓词重述为标准的 MISDP 形式，从而实现高效优化。
• 随着新数据更新潜变量的后验分布，逻辑实现实时自适应，使规范具备动态信念感知特性。
• 通过贝叶斯近似技术，该方法可推广至非高斯分布，提升其广泛适用性。