[论文解读] A Scenario Approach to Risk-Aware Safety-Critical System Verification

Prithvi Akella, Mohamadreza Ahmadi+1 more|arXiv (Cornell University)|Mar 4, 2022

Formal Methods in Verification被引用 9

一句话总结

本文提出一种基于场景的方法，通过将控制器验证重新表述为未知分布的在险价值（VaR）估计问题，实现对安全关键系统的风险感知验证。该方法采用样本高效的方法，在不依赖系统维度的情况下，以高置信度界定了不安全初始条件和参数的体积，并在多机器人系统的仿真中表现出鲁棒性。

ABSTRACT

With the growing interest in deploying robots in unstructured and uncertain environments, there has been increasing interest in factoring risk into safety-critical control development. Similarly, the authors believe risk should also be accounted in the verification of these controllers. In pursuit of sample-efficient methods for uncertain black-box verification then, we first detail a method to estimate the Value-at-Risk of arbitrary scalar random variables without requiring extit{apriori} knowledge of its distribution. Then, we reformulate the uncertain verification problem as a Value-at-Risk estimation problem making use of our prior results. In doing so, we provide fundamental sampling requirements to bound with high confidence the volume of states and parameters for a black-box system that could potentially yield unsafe phenomena. We also show that this procedure works independent of system complexity through simulated examples of the Robotarium.

研究动机与目标

• 开发一种样本高效、风险感知的验证方法，用于在不确定、非结构化环境中运行的安全关键系统。
• 在不事先了解其分布的情况下，估计任意标量随机变量的在险价值（VaR）。
• 将安全验证重新表述为VaR估计问题，以界定向不安全系统轨迹的概率质量。
• 提供与系统复杂度或维度无关的基本采样需求。
• 通过在Robotarium环境中对多机器人系统进行仿真，验证该方法。

提出的方法

• 采用场景方法，仅使用独立同分布（i.i.d.）样本，估计具有未知分布的标量随机变量的在险价值（VaR）。
• 通过在采样轨迹上求解场景优化问题，构建VaR的上界，以实现高置信度。
• 将验证问题重新表述为对从系统轨迹中导出的鲁棒性度量的VaR估计问题，该度量基于初始条件和参数。
• 该过程利用文献[15]中的场景方法，确保在高置信度（γ = 1−10⁻⁶）下对边界的概率保证。
• 通过浓度不等式推导样本复杂度，确保N ≥ 496个样本足以在ε = 0.0275下界定向不安全鲁棒性值的概率质量。
• 该方法应用于Robotarium中的多机器人系统，其中鲁棒性在初始状态和控制器参数上进行评估。

实验结果

研究问题

• RQ1 我们能否在不事先了解其分布的情况下，估计任意标量随机变量的在险价值？
• RQ2 安全关键系统的验证能否被重新表述为VaR估计问题，以实现风险感知的保证？
• RQ3 所需样本数量是否会随初始条件和参数空间的维度而增加？
• RQ4 我们能否使用最少数量的样本，以高置信度界定向不安全系统状态和参数的体积？
• RQ5 该方法在高维、非线性系统（如多机器人编队）中的表现如何？

主要发现

• 该方法成功以高置信度（γ = 1−10⁻⁶）界定向不安全初始条件和参数的体积，确保鲁棒性分布中至少97.25%位于计算出的下界之上。
• 在N = 500个样本下，该方法得出下界为−ζ*ₙ = 0.0103，对20,000个额外样本的验证表明，仅有0.13%的轨迹鲁棒性低于该下界（l = 0.0013 < ε = 0.0275）。
• 在50次重复试验中，该过程保持鲁棒，所有边界均满足概率准则，确认了预期的失败率10⁻⁶。
• 对于六机器人系统（N_R = 6），该方法保持相同的样本量（N = 500），并达到最大鲁棒性下界−ζ*ₙ = 0.03698，且l = 0.01455 < ε，表明无维度扩展。
• 该方法与维度无关：所需样本量在状态和参数空间的复杂度或维度变化时保持恒定。
• 该方法在Robotarium平台上通过仿真得到验证，表现出在不同机器人数量和系统配置下的稳定性能。