[논문 리뷰] A Scenario Approach to Risk-Aware Safety-Critical System Verification

Prithvi Akella, Mohamadreza Ahmadi외 1명|arXiv (Cornell University)|2022. 03. 04.

Formal Methods in Verification인용 수 9

한 줄 요약

이 논문은 불확실하고 비정형적인 환경에서 작동하는 안전성에 중요한 시스템에 대한 위험 인식 검증을 위한 시나리오 기반 접근법을 제안한다. 제어기 검증을 알려지지 않은 분포에 대한 Value-at-Risk (VaR) 추정 문제로 재구성함으로써, 차원에 관계없이 높은 신뢰도로 위험한 초기 조건과 파rameter의 체적을 제한한다. 다중 로봇 시스템의 시뮬레이션에서 이 방법은 강건성을 입증한다.

ABSTRACT

With the growing interest in deploying robots in unstructured and uncertain environments, there has been increasing interest in factoring risk into safety-critical control development. Similarly, the authors believe risk should also be accounted in the verification of these controllers. In pursuit of sample-efficient methods for uncertain black-box verification then, we first detail a method to estimate the Value-at-Risk of arbitrary scalar random variables without requiring extit{apriori} knowledge of its distribution. Then, we reformulate the uncertain verification problem as a Value-at-Risk estimation problem making use of our prior results. In doing so, we provide fundamental sampling requirements to bound with high confidence the volume of states and parameters for a black-box system that could potentially yield unsafe phenomena. We also show that this procedure works independent of system complexity through simulated examples of the Robotarium.

연구 동기 및 목표

• 불확실하고 비정형적인 환경에서 작동하는 안전성에 중요한 시스템에 대해 샘플 효율적이고 위험 인식 가능한 검증 방법을 개발한다.
• 분포에 대한 사전 지식 없이도 임의의 스칼라 랜덤 변수에 대한 Value-at-Risk (VaR)를 추정한다.
• 안전성 검증 문제를 VaR 추정 문제로 재구성하여 위험한 시스템 궤적의 확률 질량을 제한한다.
• 시스템 복잡성 또는 차원에 관계없이 독립적인 기본 샘플 요구 조건을 제공한다.
• Robotarium 환경에서 다중 로봇 시스템에 대한 시뮬레이션을 통해 방법을 검증한다.

제안 방법

• 알려지지 않은 분포를 가진 스칼라 랜덤 변수의 Value-at-Risk (VaR)를 추정하기 위해 시나리오 접근법을 사용하며, 이는 i.i.d. 표본 뿐만으로도 가능하다.
• 표본 궤적을 기반으로 한 시나리오 최적화 문제를 해결하여, 높은 신뢰도로 VaR의 상한을 구축한다.
• 검증 문제를 초기 조건과 파rameter에 대한 시스템 궤적에서 유도된 복원력 측도의 VaR 추정 문제로 재구성한다.
• 문제의 확률적 보장을 높은 신뢰도(γ = 1−10⁻⁶)로 확보하기 위해 [15]의 시나리오 접근법을 활용한다.
• 집중 부등식을 사용하여 샘플 복잡도를 유도하며, N ≥ 496개의 표본이 충분하여 위험한 복원력 값의 확률 질량을 ε = 0.0275로 제한할 수 있음을 보장한다.
• 이 방법은 Robotarium에서의 다중 로봇 시스템에 적용되었으며, 초기 상태와 제어기 파rameter에 대해 복원력을 평가하였다.

실험 결과

연구 질문

• RQ1 분포에 대한 사전 지식 없이도 임의의 스칼라 랜덤 변수의 Value-at-Risk를 추정할 수 있는가?
• RQ2 안전성에 중요한 시스템의 검증을 VaR 추정 문제로 재구성하여 위험 인식 보장을 가능하게 할 수 있는가?
• RQ3 필요한 표본 수가 초기 조건과 파ram터 공간의 차원에 따라 증가하는가?
• RQ4 최소한의 표본 수로 높은 신뢰도로 잠재적으로 위험한 시스템 상태와 파rameter의 체적을 제한할 수 있는가?
• RQ5 이 방법은 다중 로봇 형성과 같은 고차원 비선형 시스템에서 어떻게 성능을 발휘하는가?

주요 결과

• 높은 신뢰도(γ = 1−10⁻⁶)로 위험한 초기 조건과 파rameter의 체적을 제한하였으며, 복원력 분포의 최소 97.25%가 계산된 하한 이하에 위치하지 않음을 보장하였다.
• N = 500개의 표본을 사용하여 하한을 −ζ*ₙ = 0.0103로 산정하였고, 추가로 20,000개의 표본을 활용한 검증 결과, 이 하한 이하의 복원력을 가진 궤적 비율이 0.13%에 그쳐(l = 0.0013 < ε = 0.0275) 확인되었다.
• 50회의 반복 시행 전반에서 모든 하한이 확률적 기준을 충족하여, 기대 실패율 10⁻⁶가 정확히 달성됨을 확인하였다.
• 6대의 로봇 시스템(N_R = 6)에서 동일한 표본 수(N = 500)를 유지하였고, 최대 복원력 하한은 −ζ*ₙ = 0.03698로 도출되었으며, l = 0.01455 < ε를 만족하여 차원 증가에 따른 스케일링이 없음을 입증하였다.
• 이 방법은 차원에 독립적이다: 상태 공간과 파rameter 공간의 복잡성 또는 차원에 관계없이 필요한 표본 수가 일정하게 유지된다.
• 이 방법은 Robotarium 플랫폼에서의 시뮬레이션을 통해 검증되었으며, 다양한 로봇 수와 시스템 구성에서 일관된 성능을 보였다.