[논문 리뷰] Securing Autonomous Service Robots through Fuzzing, Detection, and Mitigation

Chundong Wang, Yee Ching Tok외 3명|arXiv (Cornell University)|2020. 03. 12.

Smart Grid Security and Resilience참고 문헌 41인용 수 4

한 줄 요약

이 논문은 자율 서비스 로봇의 제어 프로그램에 잠재적 취약성을 드러내기 위해 합리적이지만 악성인 센서 값을 주입함으로써 체계적으로 자율 서비스 로봇을 테스트하는 유도 퍼징 프레임워크인 RoboFuzz를 제안한다. 또한, 이는 과거 장애물 기록을 활용하여 위조된 센서 데이터를 식별하고, 작업 효율성 손실이 4.1%에 불과한 상태에서 로봇 기능을 유지하는 데에 사용되는 검출 및 완화 알고리즘인 Shade와 Remit를 추가로 도입한다. 테스트에서 공격 성공률는 93.3%에 달한다.

ABSTRACT

Autonomous service robots share social spaces with humans, usually working together for domestic or professional tasks. Cyber security breaches in such robots undermine the trust between humans and robots. In this paper, we investigate how to apprehend and inflict security threats at the design and implementation stage of a movable autonomous service robot. To this end, we leverage the idea of directed fuzzing and design RoboFuzz that systematically tests an autonomous service robot in line with the robot's states and the surrounding environment. The methodology of RoboFuzz is to study critical environmental parameters affecting the robot's state transitions and subject the robot control program with rational but harmful sensor values so as to compromise the robot. Furthermore, we develop detection and mitigation algorithms to counteract the impact of RoboFuzz. The difficulties mainly lie in the trade-off among limited computation resources, timely detection and the retention of work efficiency in mitigation. In particular, we propose detection and mitigation methods that take advantage of historical records of obstacles to detect inconsistent obstacle appearances regarding untrustworthy sensor values and navigate the movable robot to continue moving so as to carry on a planned task. By doing so, we manage to maintain a low cost for detection and mitigation but also retain the robot's work efficacy. We have prototyped the bundle of RoboFuzz, detection and mitigation algorithms in a real-world movable robot. Experimental results confirm that RoboFuzz makes a success rate of up to 93.3% in imposing concrete threats to the robot while the overall loss of work efficacy is merely 4.1% at the mitigation mode.

연구 동기 및 목표

• 이동 가능한 자율 서비스 로봇은 계산 자원과 이동성의 제약으로 인해 센서 기반 사이버 공격에 취약하므로, 이러한 치명적인 보안 격차를 해결하기 위함이다.
• 엄격한 자원 제약 조건 내에서 작동하고 작업 연속성을 유지하는 실용적인 현장 내 검출 및 완화 메커니즘을 개발하기 위함이다.
• 유도 퍼징을 통해 실제적이지만 해로운 센서 입력을 시뮬레이션하여 로봇 제어 프로그램의 취약점을 체계적으로 식별하기 위함이다.
• 특히 인간-로봇 공유 환경에서 설계 및 구현 단계에서 로봇의 신뢰성을 향상시키기 위함이다.
• 클라우드 기반 확인 또는 원격 계산에 의존하지 않고 실시간으로 공격를 탐지하고 복구할 수 있도록 하기 위함이다.

제안 방법

• 로봇의 현재 상태와 환경적 맥락을 기반으로 해로운 센서 값을 생성하여 제어 프로그램 결함을 유도하는 데 유도 퍼징 프레임워크인 RoboFuzz를 설계 및 구현한다.
• 최신 기술의 퍼저인 Radamsa를 사용하여 변동성이 크고 악성인 센서 입력을 생성하여 실제적이지만 속임수인 환경 읽기 값을 시뮬레이션한다.
• 실시간 장애물의 외관을 과거 기록과 비교하여 위조된 센서 데이터를 나타내는 일관성 없는 패턴을 식별하는 검출 알고리즘 Shade를 개발한다.
• 위조된 센서 값이 감지되었을 때 안전한 경로를 사용하여 작업 실행을 계속할 수 있도록 하는 완화 알고리즘 Remit을 설계한다.
• 실제 청소 로봇 프로토타입에 Shade와 Remit을 통합하여 자원 제약 조건 하에서 현장 내 작동 성능을 검증한다.
• 외부 클라우드 지원 없이도 과거 장애물 데이터를 활용하여 검출 정확도와 항법 효율성을 유지한다.

실험 결과

연구 질문

• RQ1 이동 가능한 자율 서비스 로봇의 제어 논리를 손상시키기 위해 센서 기반 사이버 공격을 어떻게 체계적으로 생성할 수 있는가?
• RQ2 로컬 과거 데이터만을 사용하여 위조된 센서 값을 효과적으로 식별할 수 있는 현장 내 검출 메커니즘은 무엇인가?
• RQ3 엄격한 계산 및 에너지 제약 조건 하에서도 높은 작업 효율성을 유지하면서 완화 전략을 어떻게 운영할 수 있는가?
• RQ4 유도 퍼징은 일반 목적의 퍼징에 비해 로봇 제어 프로그램을 손상시키는 데서 얼마나 뛰어난가?
• RQ5 검출 및 완화 메커니즘이 실제 현장 구현에서 성능 저하를 최소화하면서도 로봇 기능을 유지할 수 있는가?

주요 결과

• RoboFuzz는 중요한 상태 전환 시 합리적이지만 해로운 센서 값을 주입하여 로봇 제어 프로그램의 취약성을 악용하는 데에 93.3%의 성공률를 기록했다.
• 검출 알고리즘 Shade는 로컬 과거 데이터만을 사용하여 위조된 센서 입력으로 인한 일관성 없는 장애물 외관을 성공적으로 식별했다.
• 완화 알고리즘 Remit는 활성 공격 상황에서도 원래 작업 효율성의 95.9%를 유지하여 총 4.1%의 손실만을 초래했다.
• 제안된 검출 및 완화 프레임워크는 실제 자율 서비스 로봇의 제한된 계산 자원과 배터리 수명 조건 내에서 효율적으로 작동한다.
• 실제 청소 로봇 프로토타입에 RoboFuzz, Shade, Remit를 통합함으로써 실제 테스트에서 실현 가능성과 높은 내구성을 입증했다.
• 기존의 퍼징 도구에 비해 맥락 인식 및 상태 기반 센서 입력 변형에 집중함으로써 공격 가능성과 현실성의 향상을 달성했다.