[논문 리뷰] AutoRepair: Automated Repair for AI-Enabled Cyber-Physical Systems under Safety-Critical Conditions

Deyun Lyu, Jiayang Song외 5명|arXiv (Cornell University)|2023. 04. 12.

Smart Grid Security and Resilience인용 수 4

한 줄 요약

이 논문은 안전이 중요한 사이버-물리 시스템(CPS) 내 딥 뉴럴 네트워크(DNN) 컨트롤러에서의 안전하지 않은 제어 행동을 진단하고 수정하는 자동화된 프레임워크인 AUTOREPAIR를 제안한다. 최적화 기반 보정 검색과 강건한 재학습을 활용하여, 시스템 수준의 안전 요구사항을 충족시키기 위해 최소한의 제어 신호 조정을 식별한다. 이 프레임워크는 여섯 개의 산업용 CPS 사례에서 심각한 안전 문제를 성공적으로 수정하였으며, 신뢰성 향상이著명하다.

ABSTRACT

Cyber-Physical Systems (CPS) have been widely deployed in safety-critical domains such as transportation, power and energy. Recently, there comes an increasing demand in employing deep neural networks (DNNs) in CPS for more intelligent control and decision making in sophisticated industrial safety-critical conditions, giving birth to the class of DNN controllers. However, due to the inherent uncertainty and opaqueness of DNNs, concerns about the safety of DNN-enabled CPS are also surging. In this work, we propose an automated framework named AutoRepair that, given a safety requirement, identifies unsafe control behavior in a DNN controller and repairs them through an optimization-based method. Having an unsafe signal of system execution, AutoRepair iteratively explores the control decision space and searches for the optimal corrections for the DNN controller in order to satisfy the safety requirements. We conduct a comprehensive evaluation of AutoRepair on 6 instances of industry-level DNN-enabled CPS from different safety-critical domains. Evaluation results show that AutoRepair successfully repairs critical safety issues in the DNN controllers, and significantly improves the reliability of CPS.

연구 동기 및 목표

• 운영 중인 교통 및 에너지 분야와 같은 안전이 중요한 도메인에 적용된 DNN 기반 사이버-물리 시스템(CPS)에서 발생하는 안전하지 않은 행동 증가 문제를 다루기 위해.
• 검증 및 테스트 분야의 발전에도 불구하고, 안전하지 않은 시스템 행동을 탐지하고 DNN 컨트롤러를 자동으로 복구하는 데 있어 여전히 미해결된 격차를 메우기 위해.
• 시스템 수준에서 안전 요구사항을 충족시키기 위해 최적의 제어 신호 보정을 통해 작동하는 일반 목적의 자동 복구 프레임워크를 개발하기 위해.

제안 방법

• 신호 시간 논리(STL)로 표현된 안전 요구사항을 충족시키는 최소한의 제어 신호 보정을 찾기 위해 복수의 목적 최적화 문제로 복구 문제를 수립한다.
• 안전하지 않은 시스템 실행 추적을 기반으로 제어 결정 공간을 반복적으로 탐색하여 최적의 보정을 탐색한다.
• 최적화 솔버를 활용하여 안전을 복원하는 데 필요한 제어 신호의 최소 조정을 계산하며, 복구된 시스템 실행이 모든 지정된 STL 제약 조건을 충족하도록 보장한다.
• 복구된 제어 입력과 출력을 학습 데이터셋에 통합하여 DNN 컨트롤러의 강건한 재학습을 수행한다.
• Simulink에 프레임워크를 구현하여 산업용 CPS 모델링 및 시뮬레이션 워크플로우와의 호환성을 확보한다.
• 복구된 추적을 다시 학습에 활용하는 피드백 루프를 구현하여, 실제 환경 조건에서 DNN의 신뢰성과 안전성을 향상시킨다.

실험 결과

연구 질문

• RQ1 수동 개입 없이 자동화된 프레임워크가 안전이 중요한 CPS 내 DNN 컨트롤러의 안전하지 않은 제어 행동을 식별하고 수정할 수 있는가?
• RQ2 최적화 기반 보정 검색이 제어 신호 변화를 최소화하면서도 시스템 수준의 안전을 확보하는 데 얼마나 효과적인가?
• RQ3 복구된 실행 추적을 학습 데이터에 통합한 후, 재학습된 DNN 컨트롤러가 성능과 신뢰성을 얼마나 유지할 수 있는가?
• RQ4 다양한 동역학과 안전 요구사항을 가진 다양한 산업용 CPS에 대해 AUTOREPAIR는 얼마나 잘 일반화되는가?

주요 결과

• AUTOREPAIR는 다양한 안전이 중요한 도메인에서 온실의 산업용 CPS 여섯 개 사례에서 DNN 컨트롤러의 심각한 안전 문제를 성공적으로 복구하였다.
• 최소한의 최적 조정을 통해 제어 신호를 수정함으로써, 이 프레임워크는 시스템 신뢰성을 크게 향상시켰다.
• 복구된 실행 추적을 학습 과정에 통합함으로써 재학습된 DNN 컨트롤러는 강건성과 안전 준수 능력이 향상된 것으로 나타났다.
• 최적화 기반 복구 방법은 복잡한 STL 안전 요구사항을 만족시키는 데 효과적으로 최소한의 보정을 식별하였으며, 시스템 성능에 영향을 주지 않았다.