[논문 리뷰] Guaranteeing Safety of Learned Perception Modules via Measurement-Robust Control Barrier Functions

Sarah Dean, Andrew J. Taylor외 3명|arXiv (Cornell University)|2020. 10. 29.

Control Systems and Identification인용 수 24

한 줄 요약

이 논문은 측정 모델의 불확실성에도 불구하고 비선형 제어 시스템에서의 안전성을 보장하는 데 중점을 두는 새로운 프레임워크인 측정에 강건한 제어 장벽 함수(MR-CBFs)를 소개한다. 최악의 추정 오차 한계를 볼록 최적화 기반 제어기의 구조에 통합함으로써, 카메라 기반 상태 추정기와 같은 인식 시스템이 오차를 유발할 경우에도 안전성 보장을 유지한다. 이는 학습된 인식 모델을 사용하는 세그웨이 시스템의 시뮬레이션을 통해 검증되었다.

ABSTRACT

Modern nonlinear control theory seeks to develop feedback controllers that endow systems with properties such as safety and stability. The guarantees ensured by these controllers often rely on accurate estimates of the system state for determining control actions. In practice, measurement model uncertainty can lead to error in state estimates that degrades these guarantees. In this paper, we seek to unify techniques from control theory and machine learning to synthesize controllers that achieve safety in the presence of measurement model uncertainty. We define the notion of a Measurement-Robust Control Barrier Function (MR-CBF) as a tool for determining safe control inputs when facing measurement model uncertainty. Furthermore, MR-CBFs are used to inform sampling methodologies for learning-based perception systems and quantify tolerable error in the resulting learned models. We demonstrate the efficacy of MR-CBFs in achieving safety with measurement model uncertainty on a simulated Segway system.

연구 동기 및 목표

• 상태 추정치가 측정 모델의 불확실성으로 인해 오염될 경우 제어 시스템에서의 안전성을 확보하는 데 있어 핵심적인 과제를 해결하기 위해.
• 추정 오차에 대한 강건성을 제어 장벽 함수(CBF)에 통합하는 공식적 프레임워크를 개발하기 위해.
• 결과적으로 발생하는 오차가 안전성에 대해 허용 가능한 범위 내에 머무르도록 하기 위해, 인식 모델의 데이터 수집 및 학습을 이끌기 위해.
• 이론적 안전 보장을 포기하지 않고도 데이터 기반 인식 시스템을 안전이 중요한 제어 응용 분야에 활용할 수 있도록 하기 위해.
• 비선형적이고 불안정한 시스템인 카메라 기반 상태 추정이 적용된 실질적인 세그웨이 시스템의 시뮬레이션 환경에서 MR-CBFs의 실용적 타당성을 입증하기 위해.

제안 방법

• 측정 모델의 불확실성으로 인한 상태 추정치의 유한한 오차를 고려하는 표준 CBF의 일반화로 측정에 강건한 제어 장벽 함수(MR-CBF)를 정의한다.
• 추정 오차 하에서의 안전 조건을 제2차 원형 제약 조건으로 재구성하여 볼록성을 유지하고 실시간 온라인 최적화를 가능하게 한다.
• MR-CBF 조건을 2차 프로그래밍(QP) 기반 제어기와 통합하여 안전한 제어 입력을 효율적으로 온라인 계산할 수 있도록 한다.
• 특히 라디알 기저 함수를 사용한 커널 리지 회귀를 활용한 데이터 기반 학습 방법을 통해 카메라 영상에서 시스템 상태를 추정한다. 레이블이 부여된 데이터는 노이즈가 있는 관성 측정치에서 생성된다.
• MR-CBF 프레임워크를 활용해 학습된 인식 모델에서 허용 가능한 최대 오차를 정량화함으로써, 결과적으로 발생하는 상태 추정 오차가 안전성을 유지하는 데 필요한 범위 내에 머무르도록 보장한다.
• MR-CBF에 기반한 샘플링 전략을 설계하여 데이터 수집을 이끌며, 신뢰할 수 있는 모델 일반화를 위한 충분한 커버리지 확보를 유도한다.

실험 결과

연구 질문

• RQ1 상태 추정치가 측정 모델의 불확실성으로 인해 오염될 경우 제어 장벽 함수는 어떻게 확장되어야 하며, 안전성을 보장할 수 있는가?
• RQ2 학습된 인식 모델에서 허용 가능한 최대 오차는 얼마일 수 있으며, 여전히 CBF 기반 제어기에서 안전성 보장을 유지할 수 있는가?
• RQ3 인식 모델의 데이터 수집은 어떻게 이끌어져야 하며, 추정 오차가 안전성에 필요한 한계 내에 머물도록 보장할 수 있는가?
• RQ4 MR-CBFs는 계산 효율성을 포기하지 않고 실시간 최적화 기반 제어기와 효과적으로 통합될 수 있는가?
• RQ5 비선형적이고 불안정한 시스템인 시각 기반 상태 추정이 적용된 세그웨이 시스템에 대해 MR-CBFs는 실질적으로 어떻게 성능을 발휘하는가?

주요 결과

• 일정한 0.2 라디안 피치 각도 측정 오차가 존재하는 상황에서 MR-OP 필터는 시스템의 안전성을 유지했지만, 표준 CBF-QP 필터는 안전성 위반을 일으켰다.
• 데이터 기반 시나리오에서 MR-OP 필터는 학습된 인식 모델의 최대 추정 오차가 0.201 라디안일 경우에도 안전 집합의 불변성을 확보했지만, 표준 CBF-QP 필터는 안전하지 않은 상태 추정으로 인해 실패했다.
• 커널 리지 회귀 모델의 경험적 오차(최대 0.183 라디안)는 타당성을 보장하기 위한 이론적 상한선 0.2 이하에 머물러 있어 오차 정량화 프레임워크의 타당성을 검증했다.
• 표준 CBF-QP 필터의 부울 안전 조합 $ h_b = \min\{h_{e1}, h_{e2}\} $ 는 0 이하로 떨어졌으며, 이는 안전성 위반을 나타내었고, 반면 MR-OP 필터는 $ h_b > 0 $ 를 유지하여 안전성을 확인했다.
• MR-CBF 프레임워크를 통해 노이즈가 있는 학습 데이터(정규 분포 노이즈, σ = 0.1)를 사용하는 학습된 인식 모델을 사용함에도 불구하고 안전성이 보장되었으며, 이는 실제 센서의 결함에 대한 강건성을 입증했다.
• 이론적 분석과 시뮬레이션 결과는 MR-CBFs가 볼록성을 유지하며 실시간 제어 루프에 효율적으로 구현될 수 있음을 확인했으며, 이는 실시간 응용에 적합함을 시사한다.