[논문 리뷰] Formal Verification of Unknown Dynamical Systems via Gaussian Process Regression

J.D. Jackson, Luca Laurenti외 2명|arXiv (Cornell University)|2021. 12. 31.

Mass Spectrometry Techniques and Applications인용 수 6

한 줄 요약

이 논문은 입력-출력 데이터셋에서 모델링되지 않은 동적 특성을 학습하기 위해 가우시안 프로세스 회귀를 사용하는 데이터 기반 공식 검증 프레임워크를 제안한다. 확률적 전이 경계를 갖는 유한 상태 불확실 마르코프 결정 과정 추상화를 구성함으로써, 기성의 모델 체크 도구를 통해 공식 검증이 가능해지며, 가우시안 프로세스 회귀와 이산화로부터 유도된 불확실성에 기반해 원래 시스템의 정확성을 보장한다.

ABSTRACT

Leveraging autonomous systems in safety-critical scenarios requires verifying their behaviors in the presence of uncertainties and black-box components that influence the system dynamics. In this work, we develop a framework for verifying discrete-time dynamical systems with unmodelled dynamics and noisy measurements against temporal logic specifications from an input-output dataset. The verification framework employs Gaussian process (GP) regression to learn the unknown dynamics from the dataset and abstracts the continuous-space system as a finite-state, uncertain Markov decision process (MDP). This abstraction relies on space discretization and transition probability intervals that capture the uncertainty due to the error in GP regression by using reproducible kernel Hilbert space analysis as well as the uncertainty induced by discretization. The framework utilizes existing model checking tools for verification of the uncertain MDP abstraction against a given temporal logic specification. We establish the correctness of extending the verification results on the abstraction created from noisy measurements to the underlying system. We show that the computational complexity of the framework is polynomial in the size of the dataset and discrete abstraction. The complexity analysis illustrates a trade-off between the quality of the verification results and the computational burden to handle larger datasets and finer abstractions. Finally, we demonstrate the efficacy of our learning and verification framework on several case studies with linear, nonlinear, and switched dynamical systems.

연구 동기 및 목표

• 모델링되지 않거나 블랙박스 성질을 가진 동적 특성을 가진 안전 기반 자율 시스템을 검증하는 데 도전하는 것.
• 모델 불확실성에도 불구하고 엄밀한 보장을 제공함으로써 데이터 기반 학습과 공식 검증 사이의 격차를 메우는 것.
• 기존의 모델 체킹 도구를 사용하여 미지의 동적 특성을 가진 시스템에서 시간 논리 명시 사양을 검증할 수 있도록 하는 것.
• 가우시안 프로세스 회귀와 공간 이산화에서 유도된 불확실성을 유한 상태 추상화로 엄밀하게 정량화하고 전파하는 것.

제안 방법

• 노이즈가 섞인 입력-출력 데이터셋에서 미지의 시스템 동적 특성을 학습하기 위해 가우시안 프로세스 회귀를 활용한다.
• 재생 커널 힐버트 공간 분석을 사용하여 GP 회귀 오차의 공식 경계를 도출함으로써 학습된 동적 특성의 불확실성을 정량화한다.
• 연속 상태 공간을 유한한 영역 집합으로 나누어 공간 이산화를 수행한다.
• GP 회귀 불확실성과 이산화 오차를 모두 반영한 간격 값 전이 확률을 갖는 불확실한 마르코프 결정 과정(MDP)을 구성한다.
• 시간 논리 명시 사양(LTL 또는 PCTL)을 검증하기 위해 불확실한 MDP에 대해 모델 체킹을 적용한다.
• 추상화에서의 검증 결과가 원래 부분 관측 가능한 시스템으로까지 확장됨을 증명함으로써 정확성을 확보한다.

실험 결과

연구 질문

• RQ1 오직 데이터셋과 시간 논리 명시 사양만을 사용하여 모델링되지 않은 동적 특성을 가진 시스템을 공식적으로 검증할 수 있는가?
• RQ2 가우시안 프로세스 회귀에서 유도된 불확실성을 어떻게 엄밀하게 정량화하고, 이를 유한 상태 추상화로 전파할 수 있는가?
• RQ3 데이터 기반 공식 검증의 맥락에서 검증 정확도와 계산 복잡도 사이의 상호 상관 관계는 무엇인가?
• RQ4 추상화된 시스템에서의 검증 결과가 원래 연속 시스템에 대해 타당하고 완전한지를 어떻게 보장할 수 있는가?

주요 결과

• 프레임워크는 세 가지 유형의 초기 상태 집합을 생성한다: Q^yes(명시 사양을 보장적으로 만족함), Q^?(가능하게 만족함), Q^no(명시 사양을 보장적으로 만족하지 않음).
• 추상화에서의 검증 결과가 원래 부분 관측 가능한 시스템으로까지 확장됨을 공식적으로 증명하였다.
• 계산 복잡도는 데이터셋 크기와 이산 상태 수의 다항식 함수로 표현되어 중간 크기의 문제에 대해 확장 가능성을 보장한다.
• 이 방법은 결정론적(LTL) 및 확률론적(PCTL) 시간 논리 명시 사양을 모두 지원한다.
• 사례 연구를 통해 선형, 비선형, 스위치 동적 시스템 등 다양한 복잡도를 지닌 시스템에서의 유효성을 입증하였다.
• 원래 시스템의 공식적으로 타당하고 완전한 추상화를 제공함으로써, 기성의 모델 체킹 도구 사용을 가능하게 하였다.