[论文解读] Formal Verification of Unknown Dynamical Systems via Gaussian Process Regression

J.D. Jackson, Luca Laurenti+2 more|arXiv (Cornell University)|Dec 31, 2021

Mass Spectrometry Techniques and Applications被引用 6

一句话总结

本文提出了一种基于数据的正式验证框架，用于未知动态系统，利用高斯过程回归从输入-输出数据集中学习未建模的动力学。通过构建具有概率转移边界的有限状态不确定性马尔可夫决策过程抽象，该方法可借助现成的模型检查工具实现正式验证，确保在高斯过程回归和离散化带来的不确定性量化下，原始系统的验证结果正确。

ABSTRACT

Leveraging autonomous systems in safety-critical scenarios requires verifying their behaviors in the presence of uncertainties and black-box components that influence the system dynamics. In this work, we develop a framework for verifying discrete-time dynamical systems with unmodelled dynamics and noisy measurements against temporal logic specifications from an input-output dataset. The verification framework employs Gaussian process (GP) regression to learn the unknown dynamics from the dataset and abstracts the continuous-space system as a finite-state, uncertain Markov decision process (MDP). This abstraction relies on space discretization and transition probability intervals that capture the uncertainty due to the error in GP regression by using reproducible kernel Hilbert space analysis as well as the uncertainty induced by discretization. The framework utilizes existing model checking tools for verification of the uncertain MDP abstraction against a given temporal logic specification. We establish the correctness of extending the verification results on the abstraction created from noisy measurements to the underlying system. We show that the computational complexity of the framework is polynomial in the size of the dataset and discrete abstraction. The complexity analysis illustrates a trade-off between the quality of the verification results and the computational burden to handle larger datasets and finer abstractions. Finally, we demonstrate the efficacy of our learning and verification framework on several case studies with linear, nonlinear, and switched dynamical systems.

研究动机与目标

• 解决具有未建模或黑箱动力学的安全关键自主系统验证挑战。
• 通过在模型不确定性下提供严格保证，弥合数据驱动学习与正式验证之间的差距。
• 使现有模型检查工具可用于具有未知动力学的系统的时间逻辑规范验证。
• 对高斯过程回归和空间离散化的不确定性进行形式化量化与传播，以构建有限状态抽象。

提出的方法

• 利用高斯过程回归从带有噪声的输入-输出数据集中学习未知系统动力学。
• 通过再生核希尔伯特空间分析推导出高斯过程回归误差的形式界，量化所学动力学中的不确定性。
• 执行空间离散化，将连续状态空间抽象为一组有限区域。
• 构建具有区间值转移概率的不确定性马尔可夫决策过程（MDP），以同时捕捉高斯过程回归的不确定性与离散化误差。
• 对不确定性MDP应用模型检查，以验证时序逻辑规范（LTL或PCTL）。
• 通过证明抽象系统上的验证结果可推广至原始部分可观察系统，确保正确性。

实验结果

研究问题

• RQ1 我们能否仅通过数据集和时序逻辑规范，对具有未知或未建模动力学的系统进行形式化验证？
• RQ2 如何严格量化并传播来自高斯过程回归的不确定性，以形成用于验证的有限状态抽象？
• RQ3 在数据驱动的正式验证背景下，验证精度与计算复杂性之间的权衡是什么？
• RQ4 如何确保在抽象系统上获得的验证结果对原始连续系统而言是可靠且完备的？

主要发现

• 该框架生成三组初始状态：Q^yes（保证满足规范）、Q^?（可能满足）和Q^no（保证不满足）。
• 已正式证明抽象系统上的验证结果可扩展至原始部分可观察系统。
• 计算复杂度在数据集大小和离散状态数量上为多项式时间，支持中等规模问题的可扩展性。
• 该方法支持确定性（LTL）和概率性（PCTL）时序逻辑规范。
• 案例研究证明其在具有不同复杂度的线性、非线性和切换动力学系统上的有效性。
• 该框架通过提供原始系统的形式化正确且完备的抽象，使现成的模型检查工具得以应用。