[논문 리뷰] Real-time Out-of-distribution Detection in Learning-Enabled Cyber-Physical Systems

Feiyang Cai, Xenofon Koutsoukos|arXiv (Cornell University)|2020. 01. 28.

Anomaly Detection Techniques and Applications참고 문헌 26인용 수 10

한 줄 요약

이 논문은 자율주행 차량 시뮬레이션에서 실시간으로 분포 외(Input) 데이터를 탐지할 수 있는 방법을 제안한다. 이 방법은 변동형 오토인코더(VAEs)와 심층 서포트 벡터 데이터 기술(SVDD)을 활용한 유도적 보편 예측(Inductive Conformal Prediction, ICP)을 결합하여, 낮은 거짓 경고 비율과 최소한의 탐지 지연을 달성한다. 이로 인해 실행 시간이 원래의 기계학습 구성 요소와 유사한 성능을 보이며, 실시간 적용이 가능하다.

ABSTRACT

Cyber-physical systems (CPS) greatly benefit by using machine learning components that can handle the uncertainty and variability of the real-world. Typical components such as deep neural networks, however, introduce new types of hazards that may impact system safety. The system behavior depends on data that are available only during runtime and may be different than the data used for training. Out-of-distribution data may lead to a large error and compromise safety. The paper considers the problem of efficiently detecting out-of-distribution data in CPS control systems. Detection must be robust and limit the number of false alarms while being computational efficient for real-time monitoring. The proposed approach leverages inductive conformal prediction and anomaly detection for developing a method that has a well-calibrated false alarm rate. We use variational autoencoders and deep support vector data description to learn models that can be used efficiently compute the nonconformity of new inputs relative to the training set and enable real-time detection of out-of-distribution high-dimensional inputs. We demonstrate the method using an advanced emergency braking system and a self-driving end-to-end controller implemented in an open source simulator for self-driving cars. The simulation results show very small number of false positives and detection delay while the execution time is comparable to the execution time of the original machine learning components.

연구 동기 및 목표

• 학습 기반 사이버-물리 시스템(CPS)에서 분포 이탈(Out-of-Distribution, OOD) 입력으로 인한 안전 위험을 해결하기 위해, 분포 이탈에 의해 예측 불가능한 실패가 발생할 수 있음을 고려한다.
• 기존 OOD 탐지 방법의 한계를 극복하기 위해, 고차원 입력에 대해 강건하지 않거나 실시간 효율성이 떨어지거나 과도한 거짓 경고를 유발하는 방법들이다.
• 안정적인 거짓 경고 비율을 유지하면서도 계산 효율성이 높고 실시간으로 작동하는 OOD 탐지 프레임워크를 개발하여, 안전이 중요한 CPS 환경에 적용 가능하게 한다.
• 자율주행 차량의 기계학습 구성 요소에 대한 런타임 모니터링을 가능하게 하여, 입력 데이터의 분포가 훈련 데이터에서 얼마나 떨어져 있는지를 정량화한다.
• 이 검출 방법을 고급 비상 브레이킹 시스템 및 엔드 투 엔드 자율주행 제어기와 같은 제어 시스템에 통합하여 실질적인 안전 보장을 확보한다.

제안 방법

• 새로운 입력이 훈련 분포에 얼마나 부합하는지를 나타내는 p-값을 계산하기 위해 유도적 보편 예측(ICP)을 활용한다.
• 변동형 오토인코더(VAEs)와 심층 서포트 벡터 데이터 기술(SVDD)을 사용하여, 새로운 입력이 훈련 데이터와 얼마나 이질적인지를 측정하는 비일관성 점수(nonconformity scores)를 학습한다.
• ICP를 사용한 온라인 실시간 추론을 가능하게 하기 위해 훈련 데이터를 적절한 훈련 세트와 校정 세트로 분할한다.
• 실시간으로 VAE 및 SVDD 모델을 사용하여 비일관성 점수를 계산하며, 이는 내재된 분포 데이터를 정확히 재구성하고 고차원 OOD 입력을 탐지하도록 훈련된다.
• 사전 정의된 이상치 임계값 ε을 적용하여, p-값이 ε 이하인 경우 입력을 OOD로 분류함으로써 잘 校정된 거짓 경고 비율을 확보한다.
• 원래의 학습 기반 구성 요소(LEC)와 병렬로 작동하는 경량 런타임 모니터로 검출 모듈을 통합하여 성능 오버헤드를 최소화한다.

실험 결과

연구 질문

• RQ1 고차원적이고 동적인 CPS 입력에서 낮고 잘 校정된 거짓 경고 비율을 유지하면서 실시간 OOD 탐지 방법을 설계할 수 있는가?
• RQ2 안전이 중요한 제어 시스템에서 VAEs와 SVDD를 사용해 실시간 OOD 탐지에 필요한 비일관성 점수를 얼마나 효율적으로 계산할 수 있는가?
• RQ3 기존의 이상 탐지 기법에 비해 제안된 방법이 자율주행 제어 시스템에서 거짓 경고를 얼마나 줄이는가?
• RQ4 실제 CPS 워크로드에서 검출 모듈의 계산 오버헤드는 원래의 기계학습 구성 요소에 비해 어느 정도인가?
• RQ5 엔드 투 엔드 자율주행 제어기 및 비상 브레이킹 시스템에서 큰 예측 오차를 유발할 수 있는 OOD 입력을 신뢰성 있게 탐지할 수 있는가?

주요 결과

• 제안된 방법은 고급 비상 브레이킹 시스템(AEBS)과 엔드 투 엔드 자율주행 제어기(SDEC) 시뮬레이션 모두에서 매우 낮은 수준의 거짓 경고를 기록하였다.
• 탐지 지연이 최소화되었으며, 실행 시간이 원래의 기계학습 구성 요소와 유사하여 실시간 구현이 가능했다.
• VAEs와 SVDD의 활용 덕분에 고차원 입력(예: 센서 데이터 스트림)에 대해 정확하고 효율적인 비일관성 점수 계산이 가능했다.
• 유도적 보편 예측 프레임워크는 실제 이상 탐지 비율이 사전 정의된 임계값 ε과 매우 유사하게 유지되므로 잘 校정된 거짓 경고 비율을 보장한다.
• 원래 모델이 이를 경고하지 않더라도, 훈련 분포에서 크게 벗어난 입력을 성공적으로 식별하여 예측 오차가 클 가능성이 있는 경우를 탐지할 수 있었다.
• 다양한 입력 분포에 대해 강건하며, 시뮬레이션 환경에서 다양한 환경 조건에서도 성능을 유지하는 것으로 나타났다.