[논문 리뷰] A General Framework for Verification and Control of Dynamical Models via Certificate Synthesis

Alec Edwards, Andrea Peruffo외 1명|arXiv (Cornell University)|2023. 09. 12.

Adversarial Robustness in Machine LearningComputer Science인용 수 3

한 줄 요약

이 논문은 SMT 해결을 통한 증명서 합성 방식을 사용하여 동적 시스템의 제어기들을 공식적으로 검증하고 합성하기 위한 일반적인 프레임워크를 제시한다. 신경망을 사용해 후보 증명서 및 제어기 함수를 생성하고, SMT 솔버를 활용하여 복잡한 사양(예: 안전성, 도달 가능성, 그 조합 등)에 대해 증명 가능한 정확한 증명서를 자동으로 생성함으로써 다양한 벤치마크에서 공식적인 정확성 보장을 달성한다.

ABSTRACT

An emerging branch of control theory specialises in certificate learning, concerning the specification of a desired (possibly complex) system behaviour for an autonomous or control model, which is then analytically verified by means of a function-based proof. However, the synthesis of controllers abiding by these complex requirements is in general a non-trivial task and may elude the most expert control engineers. This results in a need for automatic techniques that are able to design controllers and to analyse a wide range of elaborate specifications. In this paper, we provide a general framework to encode system specifications and define corresponding certificates, and we present an automated approach to formally synthesise controllers and certificates. Our approach contributes to the broad field of safe learning for control, exploiting the flexibility of neural networks to provide candidate control and certificate functions, whilst using SMT-solvers to offer a formal guarantee of correctness. We test our framework by developing a prototype software tool, and assess its efficacy at verification via control and certificate synthesis over a large and varied suite of benchmarks.

연구 동기 및 목표

• 비선형 동적 시스템에서 복잡한 시스템 행동을 자동으로 설계하고 공식적으로 검증하는 데 도전하는 문제를 해결하기 위해.
• 안전성, 도달 가능성 및 그 조합과 같은 다양한 사양을 하나의 증명서 기반 공식적 검증 프레임워크로 통합하기 위해.
• 신경망을 함수 템플릿으로 사용하고 SMT 솔버를 활용하여 증명 가능한 정확한 제어기 및 증명서 합성 기능을 제공하기 위해.
• 다항식 템플릿과 볼록성 가정을 초월하여 비다항식 및 복잡한 시스템 역학을 다룰 수 있도록 SMT 해결 기법을 활용하기 위해.
• 안전 기반 제어 응용 분야에 적합한 확장 가능하고 자동화된, 공식적으로 타당한 접근법을 제공하기 위해.

제안 방법

• 상태 궤적에 대한 논리적 제약 조건으로 시스템 사양(안전성, 도달 가능성, 도달-피하기 등)을 수식화하기 위해.
• 후보 리아프노프 또는 장벽 증명서 및 제어기 함수를 위한 매개변수화된 템플릿으로 ReLU 활성화 함수를 사용하는 신경망을 사용하기 위해.
• 증명서 합성 문제를 SMT 솔버가 처리할 수 있는 이론(예: 비선형 실수 산술, 다항식 제약 조건)에 기반한 논리 공식으로 표현하기 위해.
• Z3, dReal, CVC5 등의 SMT 솔버를 활용하여 후보 증명서의 정확성을 검증하고 유효한 매개변수화를 찾기 위해.
• 초기 후보가 실패할 경우 반복적으로 개선하는 반복적 보완 루프(Counterexample-Guided Refinement)를 통합하기 위해.
• 시간 논리(LTL)와 유한 오토마타를 사용하여 사양을 모듈러하게 조합할 수 있도록 지원하여, 약한 'until' 및 'release' 연산자와 같은 복잡한 성질의 합성 기능을 제공하기 위해.

실험 결과

연구 질문

• RQ1 다양한 종류의 동적 시스템 사양에 대해 제어기와 증명서를 합성할 수 있는 통합 프레임워크를 개발할 수 있는가?
• RQ2 신경망을 효과적으로 표현력 있는 함수 템플릿으로 사용하면서도 공식적 정확성을 보장할 수 있는가?
• RQ3 SMT 솔버를 얼마나 효과적으로 활용하여 비다항식 및 하이브리드 시스템 역학에 대한 증명서 검증 및 합성 기능을 수행할 수 있는가?
• RQ4 도달-while-avoid 및 도달-하고-유지-유지와 같은 복잡한 사양을 이 프레임워크를 통해 체계적으로 표현하고 검증할 수 있는가?
• RQ5 다양한 동적 복잡성과 사양 유형을 가진 다양한 벤치마크에서 이 접근법의 확장성은 어떻게 평가되는가?

주요 결과

• 이 프레임워크는 안전성, 도달 가능성 및 그 조합을 포함한 다양한 사양에 대해 광범위한 벤치마크 세트에서 증명 가능한 정확한 증명서와 제어기를 성공적으로 합성하였다.
• 신경망과 SMT 솔버의 통합은 높은 능력의 함수 근사 기능을 유지하면서도 공식적 정확성 보장을 유지할 수 있도록 해주었다.
• 전통적인 템플릿 기반 방법보다 비다항식 역학과 합성곱의 제약 조건을 초월한 복잡한 사양을 다룰 수 있어 성능에서 뛰어난 성능을 보였다.
• SMT 솔버의 사용 덕분에 비볼록성 및 비선형 시스템 역학이 존재하는 상황에서도 신뢰할 수 있는 검증이 가능하여 안전 기반 응용 분야에서의 강건성을 확보하였다.
• LTL과 유한 오토마타를 통한 모듈러 사양 조합 기능을 지원하여, 약한 'until' 및 'release' 연산자와 같은 복잡한 시간적 성질의 합성 기능을 제공하였다.
• 실증 평가를 통해 프로토타입 도구가 비선형 상미분방정식과 하이브리드 시스템 행동을 포함한 벤치마크에서 유효성과 확장성 모두를 입증하였다.