[论文解读] Data-driven Abstractions for Verification of Deterministic Systems

Rudi Coppola, Andrea Peruffo+1 more|arXiv (Cornell University)|Nov 3, 2022

Formal Methods in Verification被引用 7

一句话总结

本文提出一种数据驱动方法，用于构建具有未知动力学特性的确定性系统的有限状态抽象，利用采样轨迹确保概率性行为包含。通过利用非凸场景理论和 $\varepsilon$-完备行为覆盖，该方法为无限时域验证提供了 Probably Approximately Correct (PAC) 保证，从而在无需事先建立系统模型的情况下实现形式化验证。

ABSTRACT

A common technique to verify complex logic specifications for dynamical systems is the construction of symbolic abstractions: simpler, finite-state models whose behaviour mimics the one of the systems of interest. Typically, abstractions are constructed exploiting an accurate knowledge of the underlying model: in real-life applications, this may be a costly assumption. By sampling random $\ell$-step trajectories of an unknown system, we build an abstraction based on the notion of $\ell$-completeness. We newly define the notion of probabilistic behavioural inclusion, and provide probably approximately correct (PAC) guarantees that this abstraction includes all behaviours of the concrete system, for finite and infinite time horizon, leveraging the scenario theory for non convex problems. Our method is then tested on several numerical benchmarks.

研究动机与目标

• 解决在动力学特性未知的确定性系统中验证无限时域性质的挑战，其中传统基于模型的抽象方法不可行。
• 克服基于单步转移的场景方法无法推广至长时域或无限时域的局限性。
• 开发一种直接从数据构建有限抽象的方法，通过独立同分布的初始状态采样确保高概率正确性。
• 为具体系统在抽象中的行为包含建立PAC保证，即使针对无限时间性质亦成立。
• 在无需显式系统模型的前提下，实现复杂逻辑规范的形式化验证与控制器综合。

提出的方法

• 从已知分布中独立同分布地采样初始状态，生成长度为 $H = \overline{k} + \ell$ 的 $\varepsilon$-完备轨迹，其中 $\overline{k}$ 为系统行为达到完全支持所需的时间。
• 从观测到的 $\ell$-步序列构建一个 $\ell$-完备自动机（S$\ell$-CA），确保捕获所有可能的 $\ell$-长度行为。
• 将概率性行为包含定义为：所有具体系统轨迹均包含在抽象行为中的概率，置信度为 $1 - \beta$。
• 应用非凸场景理论，基于不同 $\ell$-序列的数量 ($s_N^*$) 和样本数量 $N$，推导出未见行为概率的PAC界。
• 使用场景边界 $\epsilon(s_N^*, \beta, N)$ 量化遗漏任意系统行为的最大概率，从而在高置信度下确保正确性。
• 利用双芽等价关系，当系统具备此类关系时，将有限时域保证扩展至无限时域验证。

实验结果

研究问题

• RQ1 我们能否仅使用采样轨迹而无需系统模型，为具有未知动力学特性的确定性系统构建有限抽象？
• RQ2 如何将基于单步的场景保证扩展至确定性系统中无限时域的行为性质？
• RQ3 为在高置信度下实现行为包含的PAC保证，所需的最少轨迹数和序列长度是多少？
• RQ4 如何量化从有限数据集中观察到所有可能系统行为的概率，特别是当系统支持未知时？
• RQ5 在何种条件下，基于数据的抽象能够以形式化正确性保证模拟系统的无限时域行为？

主要发现

• 该方法通过确保所有系统行为以至少 $1 - \epsilon$ 的概率被包含在抽象中，实现了无限时域验证的PAC保证，其中 $\epsilon$ 由场景边界导出。
• 在二维非线性系统的数值基准测试中，场景边界为 $\epsilon = 4.8 \cdot 10^{-3}$，而实际违反概率为 $\approx 2.25 \cdot 10^{-44}$，证实了边界的保守性与可靠性。
• 对于同一系统，确定 $\overline{k} = 7$ 为系统行为达到完全支持的时间跨度，从而证明 $H = \overline{k} + \ell = 9$ 作为足够长的轨迹长度以实现无限时域保证。
• 在路径规划案例中，$N = 10^4$ 条轨迹和 $\ell = 27$ 时，场景边界为 $\epsilon = 4.06 \cdot 10^{-3}$，确保在置信度 $1 - \beta = 1 - 10^{-12}$ 下，系统以 $\geq 1 - \epsilon$ 的概率到达目标。
• 该方法仅使用 $s_N^* = 3$ 条不同轨迹即成功构建了数据驱动的 S$\ell$-CA，展示了其数据高效性。
• 理论分析证实，无限时域验证问题可归约为：从独立同分布样本中边界化观察到未知有限支持概率质量函数的完整支持概率，该问题通过场景理论得以解决。