[논문 리뷰] Safe Control under Uncertainty

Dorsa Sadigh, Ashish Kapoor|arXiv (Cornell University)|2015. 10. 25.

Formal Methods in Verification참고 문헌 32인용 수 10

한 줄 요약

이 논문은 불확실성 하에서 사이버-물리 시스템의 확률적 안전성 성질을 명시하기 위한 새로운 논리인 확률적 신호 시간논리(PrSTL)를 제안한다. 이는 베이지안 그래픽 모델과 혼합정수준반정형계획법을 활용하여 적응형, 데이터 기반의 제어기 합성을 가능하게 하며, 자율주행차와 큼피터로의 안전 제어를 실험적으로 입증한다. 이는 확률적 충돌 회피 보장을 제공한다.

ABSTRACT

Controller synthesis for hybrid systems that satisfy temporal specifications expressing various system properties is a challenging problem that has drawn the attention of many researchers. However, making the assumption that such temporal properties are deterministic is far from the reality. For example, many of the properties the controller has to satisfy are learned through machine learning techniques based on sensor input data. In this paper, we propose a new logic, Probabilistic Signal Temporal Logic (PrSTL), as an expressive language to define the stochastic properties, and enforce probabilistic guarantees on them. We further show how to synthesize safe controllers using this logic for cyber-physical systems under the assumption that the stochastic properties are based on a set of Gaussian random variables. One of the key distinguishing features of PrSTL is that the encoded logic is adaptive and changes as the system encounters additional data and updates its beliefs about the latent random variables that define the safety properties. We demonstrate our approach by synthesizing safe controllers under the PrSTL specifications for multiple case studies including control of quadrotors and autonomous vehicles in dynamic environments.

연구 동기 및 목표

• 기계학습 기반 예측과 안전 보장을 통합하는 공식적 프레임워크의 부족을 해결하기 위해.
• 시스템 성질의 불확실성을 결정론적 제약 조건이 아닌, 학습된 분포를 기반으로 한 확률적 술어로 모델링하기 위해.
• 잠재적인 랜덤 변수에 대한 진동하는 믿음에 적응하는 수축 시간 영역 제어 합성 방법을 개발하기 위해.
• 센서 데이터, 예측 및 환경 역학의 불확실성을 고려한 시간논리 사양을 만족하는 안전한 제어기 합성 가능하게 하기 위해.
• 자율주행 및 큼피터 제어 사례 연구를 통해 프레임워크의 효과성을 입증하기 위해.

제안 방법

• 확률적 술어를 랜덤 변수로 매개변수화한 신호 시간논리(Signal Temporal Logic)의 확장인 확률적 신호 시간논리(PrSTL)를 제안한다.
• 특히 속도 및 위치 예측을 정규분포 랜덤 변수로 모델링하여, 시스템 성질의 불확실성을 베이지안 그래픽 모델로 표현한다.
• 충돌 회피와 같은 안전 제약 조건을 확률적 술어로 표현하며, 예를 들어 P(distance ≥ δ) ≥ 1−ε 형태를 취한다. 여기서 δ는 최소 안전 거리이고, ε는 허용 가능한 실패 확률이다.
• 수축 시간 영역 제어 프레임워크를 활용하여, 유한 시간 영역 동안 PrSTL 사양을 만족하는 혼합정수준반정형계획법(MISDP)을 해결함으로써 제어기를 설계한다.
• 신규 데이터 도착에 따라 후행 분포를 업데이트하고, 이를 바탕으로 확률적 술어를 재편성함으로써 논리를 실시간으로 동적으로 적응시킨다.
• 환경 차량 운동 및 바람의 요동 등 불확실성이 존재하는 자율주행차 및 큼피터 제어 작업에 대해 제어기 합성 도구상자를 구현하고 평가한다.

실험 결과

연구 질문

• RQ1 어떻게 시간논리 사양을 확률적 안전성 성질을 표현할 수 있도록 확장할 수 있는가? 이는 불확실하고 학습된 모델에서 유도된 것이다.
• RQ2 시스템 성질이 결정론적 값이 아닌 베이지안 예측 모델에 의해 정의될 경우, 제어기 합성 프레임워크가 안전 보장을 유지할 수 있는가?
• RQ3 논리와 제어기의 적응성은 진동하는 불확실성 하에서 안전성과 성능을 어떻게 향상시키는가?
• RQ4 환경 예측의 불확실성(예: 차량 속도)은 동적 환경에서 제어기 행동에 어떤 영향을 미치는가?
• RQ5 제안된 프레임워크는 자율주행차와 큼피터와 같은 실제 사이버-물리 시스템에 효과적으로 적용될 수 있는가?

주요 결과

• 프레임워크는 환경 차량 속도에 대한 불확실성이 높을 경우(σ = 0.4), 자동차가 충돌을 피하기 위해 보수적으로 행동하는 자율주행차에 대해 안전한 제어 전략을 성공적으로 합성하였다.
• 불확실성이 없을 경우(σ = 0), 자동차가 더 이르게 오른쪽으로 전환하는 것으로 나타나, 제어기가 학습된 예측의 신뢰도에 따라 적응함을 입증하였다.
• 모든 시간 단계에서 충돌 회피 보장 확률 P ≥ 0.8(ε = 0.2)를 달성하여, 불확실성 하에서도 높은 신뢰성을 확보하였다.
• 정규분포로 표현된 속도 추정치를 활용함으로써, 확률적 술어를 표준 MISDP 형태로 재구성할 수 있었으며, 이는 효율적인 최적화를 가능하게 하였다.
• 신규 데이터가 도착함에 따라 잠재 변수에 대한 후행 분포가 업데이트되며, 이에 따라 논리가 실시간으로 동적으로 적응하고, 믿음 기반의 사양이 되었다.
• 베이지안 근사 기법을 통해 비정규분포에 대해서도 일반화 가능하여, 더 넓은 적용 가능성을 확보하였다.