[논문 리뷰] NNLander-VeriF: A Neural Network Formal Verification Framework for Vision-Based Autonomous Aircraft Landing

Ulices Santa Cruz, Yasser Shoukry|arXiv (Cornell University)|2022. 03. 29.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

NNLander-VeriF는 카메라 영상 형성 과정을 기하학적으로 모델링하여 ReLU 신경망으로 표현하는 형식적 검증 프레임워크로, 기성의 신경망 모델 체크어워리 도구를 활용해 시각 기반 자율 항공기 착륙 시스템의 엔드 투 엔드 검증을 가능하게 한다. 이 프레임워크는 평균적으로 각 영역당 76초 이내로 500개 영역에 걸쳐 훈련된 2층 ReLU 컨트롤러의 형식적 안전성 검증을 달성한다.

ABSTRACT

In this paper, we consider the problem of formally verifying a Neural Network (NN) based autonomous landing system. In such a system, a NN controller processes images from a camera to guide the aircraft while approaching the runway. A central challenge for the safety and liveness verification of vision-based closed-loop systems is the lack of mathematical models that captures the relation between the system states (e.g., position of the aircraft) and the images processed by the vision-based NN controller. Another challenge is the limited abilities of state-of-the-art NN model checkers. Such model checkers can reason only about simple input-output robustness properties of neural networks. This limitation creates a gap between the NN model checker abilities and the need to verify a closed-loop system while considering the aircraft dynamics, the perception components, and the NN controller. To this end, this paper presents NNLander-VeriF, a framework to verify vision-based NN controllers used for autonomous landing. NNLander-VeriF addresses the challenges above by exploiting geometric models of perspective cameras to obtain a mathematical model that captures the relation between the aircraft states and the inputs to the NN controller. By converting this model into a NN (with manually assigned weights) and composing it with the NN controller, one can capture the relation between aircraft states and control actions using one augmented NN. Such an augmented NN model leads to a natural encoding of the closed-loop verification into several NN robustness queries, which state-of-the-art NN model checkers can handle. Finally, we evaluate our framework to formally verify the properties of a trained NN and we show its efficiency.

연구 동기 및 목표

• 시각 기반 자율 시스템에서 항공기 상태와 카메라 영상 간의 형식적 모델링 부족을 해결한다.
• 최신 기술 수준의 신경망 모델 체크어워리 도구는 단순한 입력-출력 내성성 성질만 검증할 수 있다는 한계를 극복한다.
• 항공기 역학, 인식, 신경망 제어를 하나의 확장된 신경망으로 통합하여 폐쇄형 루프 시스템의 형식적 검증을 가능하게 한다.
• 시각 기반 자율 항공기 착륙에서 안전성 및 활성성 성질을 검증하기 위한 확장 가능한 프레임워크를 제공한다.
• 기하학적 모델링과 기성 도구를 활용해 실세계 고차원 인식 시스템에 대한 형식적 검증의 실현 가능성과 효율성을 입증한다.

제안 방법

• 항공기 상태(위치, 자세)에서 픽셀 좌표로의 사영 카메라 영상 형성 과정을 기하학적 원리로 모델링한다.
• 카메라 내부 파rameter에 기반해 수작업으로 할당된 가중치를 가진 ReLU 신경망으로 기하학적 영상 형성 모델을 표현한다.
• 인식 신경망과 훈련된 신경망 컨트롤러를 조합하여 항공기 상태에서 제어 동작으로 직접 매핑하는 확장된 신경망을 구성한다.
• 유한 상태 기계(FSM)를 생성하기 위해 경계 모델 체킹을 사용하며, 안전 제약 조건은 부울 공식으로 표현된다.
• 최신 기술 수준의 신경망 모델 체크어워리 도구인 PeregriNN을 사용해 다양한 초기 조건에서 확장된 신경망의 내성성 성질을 검증한다.
• SAT4J를 사용해 유한 상태 기계 검증 컴포넌트를 구현하며, 20단계의 수평선을 가진 경계 모델 체킹을 수행한다.

실험 결과

연구 질문

• RQ1 카메라 영상 형성 과정의 기하학적 모델을 ReLU 신경망으로 표현할 수 있는가? 이를 통해 시각 기반 제어기의 형식적 검증이 가능해지는가?
• RQ2 인식 및 제어 컴포onent이 하나의 확장된 네트워크로 조합되었을 때, 기존의 신경망 모델 체크어워리 도구가 복잡한 폐쇄형 루프 시스템 성질을 얼마나 잘 검증할 수 있는가?
• RQ3 이 프레임워크를 사용해 시각 기반 자율 착륙 시스템의 형식적 검증을 얼마나 효율적으로 수행할 수 있는가?
• RQ4 이 프레임워크의 확장성은 다양한 초기 조건에서의 이미지 해상도와 검증 시간 측면에서 어떻게 평가되는가?
• RQ5 이 프레임워크는 다양한 착륙 경로와 비안전 상태 영역에서 신경망 컨트롤러의 안전성 검증을 어떻게 다루는가?

주요 결과

• 500개의 무작위로 샘플링된 초기 조건에서 안전 사양 φ = □¬q_unsafe 가 성립함을 검증했으며, 모든 경우에서 신경망 컨트롤러가 안전함을 확인했다.
• PeregriNN를 사용해 평균적으로 각 영역당 76초의 검증 시간을 기록하여 실세계 적용에 적합한 효율성을 입증했다.
• 유한 상태 기계 크기가 커짐에 따라 검증 시간이 2000초(μ=0.1)에서 7000초(μ=1.1)로 단조롭게 증가함을 확인하여 확장성의 트레이드오프를 입증했다.
• 확장된 신경망(NN_aug)은 항공기 상태에서 제어 동작으로의 전체 매핑을 인코딩함으로써 엔드 투 엔드 검증을 가능하게 하였으며, 기성의 신경망 모델 체크어워리 도구에 적합하였다.
• 영상 형성 과정에 대해 조각별 애파인(PWA) 근사를 사용함으로써 정확한 ReLU 네트워크 표현이 가능했지만, 잠재적인 근사 오차가 존재할 수 있었다.
• 인식을 기하학적으로 모델링하고 제어기와 조합함으로써 시각 기반 시스템의 형식적 검증이 실현 가능하다는 것을 입증했다.