[论文解读] A General Framework for Verification and Control of Dynamical Models via Certificate Synthesis

Alec Edwards, Andrea Peruffo+1 more|arXiv (Cornell University)|Sep 12, 2023

Adversarial Robustness in Machine LearningComputer Science被引用 3

一句话总结

本文提出了一种通用框架，通过SMT求解的证书合成技术，对动力系统控制器进行形式化验证与合成。该框架结合神经网络作为候选证书和控制器函数的参数化模板，利用SMT求解器自动生成针对复杂规范（如安全性、可达性及其组合）的可证明正确证书，从而在多种基准测试中实现形式化正确性保证。

ABSTRACT

An emerging branch of control theory specialises in certificate learning, concerning the specification of a desired (possibly complex) system behaviour for an autonomous or control model, which is then analytically verified by means of a function-based proof. However, the synthesis of controllers abiding by these complex requirements is in general a non-trivial task and may elude the most expert control engineers. This results in a need for automatic techniques that are able to design controllers and to analyse a wide range of elaborate specifications. In this paper, we provide a general framework to encode system specifications and define corresponding certificates, and we present an automated approach to formally synthesise controllers and certificates. Our approach contributes to the broad field of safe learning for control, exploiting the flexibility of neural networks to provide candidate control and certificate functions, whilst using SMT-solvers to offer a formal guarantee of correctness. We test our framework by developing a prototype software tool, and assess its efficacy at verification via control and certificate synthesis over a large and varied suite of benchmarks.

研究动机与目标

• 为自动设计控制器并形式化验证非线性动力系统中的复杂系统行为提供解决方案。
• 将多种规范（如安全性、可达性及其组合）统一于基于证书的形式化验证框架之下。
• 通过使用神经网络作为函数模板并结合SMT求解器，实现可证明正确的控制器与证书合成。
• 通过利用SMT求解技术，突破多项式模板与凸性假设的限制，适用于非多项式及复杂系统动力学。
• 为安全关键控制应用提供可扩展、自动化且形式化可靠的解决方案。

提出的方法

• 将系统规范（如安全性、可达性、到达-避免等）表述为状态轨迹上的逻辑约束。
• 使用带有ReLU激活函数的神经网络作为候选李雅普诺夫或屏障证书及控制器的参数化模板。
• 将证书合成问题编码为SMT求解器相关理论（如非线性实数理论、多项式约束）中的逻辑公式。
• 利用SMT求解器（如Z3、dReal、CVC5）验证候选证书的正确性并寻找有效的参数化配置。
• 集成反例引导的迭代优化循环，当初始候选证书失败时，逐步改进基于神经网络的证书。
• 通过线性时序逻辑（LTL）与有限自动机支持规范的模块化组合，实现对复杂性质（如弱直到与释放算子）的合成。

实验结果

研究问题

• RQ1 能否开发一个统一框架，用于为广泛类别的动力系统规范合成控制器与证书？
• RQ2 如何有效利用神经网络作为表达能力强的函数模板来生成证书，同时确保形式化正确性？
• RQ3 在多大程度上可借助SMT求解器验证并合成非多项式与混合系统动力学的证书？
• RQ4 能否系统性地编码并验证如“在避免过程中到达”与“在停留期间保持到达”等复杂规范？
• RQ5 该方法在涵盖不同动力学复杂度与规范类型的多样化基准测试中，其可扩展性如何？

主要发现

• 该框架在大规模且多样化的基准测试套件中，成功为包括安全性、可达性及其组合在内的多种规范，合成出可证明正确的证书与控制器。
• 神经网络与SMT求解器的集成实现了灵活且高容量的函数逼近，同时保持了形式化正确性保证。
• 该方法在处理非多项式动力学与超越和平方或线性规划约束的复杂规范方面，优于传统模板方法。
• SMT求解器的使用确保了在非凸与非线性系统动力学下的可靠验证，增强了在安全关键应用中的鲁棒性。
• 该框架通过LTL与有限自动机支持规范的模块化组合，能够实现对复杂时序性质（如弱直到与释放算子）的合成。
• 实证评估表明，该原型工具在涉及非线性常微分方程与混合系统行为的基准测试中，具备高效性与可扩展性。