[논문 리뷰] Physical Adversarial Attack on Vehicle Detector in the Carla Simulator

Tong Wu, Xuefei Ning외 4명|arXiv (Cornell University)|2020. 07. 31.

Computer Graphics and Visualization Techniques참고 문헌 23인용 수 39

한 줄 요약

이 논문은 Enlarge-and-Repeat 렌더링 전략과 이산 탐색을 사용하여 CARLA 시뮬레이터에서 차량 탐지기를 속이기 위한 모자이크 모양의 적대적 차량 텍스처를 제작하는 블랙박스 방법을 제시한다.

ABSTRACT

In this paper, we tackle the issue of physical adversarial examples for object detectors in the wild. Specifically, we proposed to generate adversarial patterns to be applied on vehicle surface so that it's not recognizable by detectors in the photo-realistic Carla simulator. Our approach contains two main techniques, an Enlarge-and-Repeat process and a Discrete Searching method, to craft mosaic-like adversarial vehicle textures without access to neither the model weight of the detector nor a differential rendering procedure. The experimental results demonstrate the effectiveness of our approach in the simulator.

연구 동기 및 목표

• 현실과 유사한 시뮬레이터에서 객체 탐지기를 위한 물리적 적대적 예제의 연구 동기를 제시한다.
• 모델 가중치나 미분 가능 렌더링에 의존하지 않는 블랙박스 공격을 개발한다.
• CARLA에서 탐지기를 오도하기 위해 구조화된 탐색을 통해 모자이크형 차량 텍스처를 제작한다.
• 여러 카메라 시점과 거리에서 공격의 효과를 평가한다.
• 이와 같은 위장 기반 공격에 대한 탐지기의 강건성을 향상시킬 전략을 제안한다.

제안 방법

• CARLA를 이용해 차량 표면에 위장 텍스처를 렌더링하고 다양한 카메라 자세에서 2D RGB 이미지를 캡처한다.
• Enlarge-and-Repeat(ER) 패턴 구성 방식을 제안하여 모자이크형 적대적 텍스처를 만든다.
• 위장 패턴을 변이시키고 평균 탐지 점수로 탐지기 반응을 평가하는 이산적 블랙박스 탐색을 정의한다.
• 최고 성능의 위장 텍처를 견고하게 보유하여 반복적 개선을 이끈다.
• 패턴 공간을 효과적으로 탐색하기 위해 무작위 확산 변이와 지시적 업데이트를 교차시켜 실행한다.

실험 결과

연구 질문

• RQ1 사진실감 시뮬레이터에서 차량 표면에 제작된 모자이크형 위장 텍스처가 다양한 시점과 거리에서 차량 탐지기를 속일 수 있는가?
• RQ2 ER 패턴과 이산 탐색을 사용한 블랙박스 비미분 렌더링 공격이 탐지 점수를 낮추는 효과는 어느 정도인가?
• RQ3 Enlarge-and-Repeat 렌더링 과정이 변환 전반에 걸친 공격 강건성에 기여하는가?
• RQ4 제안된 이산 탐색과 무작위 초기화가 공격 성능에 미치는 상대적 영향은 무엇인가?

주요 결과

• ER-패턴 위장 텍스처는 여러 카메라 변환에 걸쳐 CARLA의 차량 탐지기 성능을 크게 저하시킬 수 있다.
• ER 렌더링과 이산 탐색의 결합은 깨끗한 위장과 무작위 위장에 비해 평균 탐지 점수와 정밀도의 큰 하락을 초래한다.
• 렌더링 방식 차등 실험은 ER 기반 위장이 간단한 보간 기반 리사이징보다 탐지 가능성을 줄이는 데 우수하다고 보인다.
• 이산적 탐색은 무작위 초기화보다 공격 효율성을 더 높여 가이드된 변이 전략의 가치를 보여준다.
• 최고의 결과는 특정 ER 설정(E5-R2 등)과 이산 탐색 전략을 결합했을 때 달성되었으며, 패턴 주파수와 탐색 절차 간의 비사소한 상호작용을 시사한다.