[논문 리뷰] Physical Adversarial Attack meets Computer Vision: A Decade Survey

Hui Wei, Hao Tang외 7명|arXiv (Cornell University)|2022. 09. 30.

Adversarial Robustness in Machine Learning인용 수 22

한 줄 요약

지난 한 십년간의 컴퓨터 비전에서의 물리적 adversarial 공격에 대한 포괄적 고찰로, adversarial medium 개념과 hiPAA 평가 지표를 도입하여 과제 간에 방법을 체계적으로 비교한다.

ABSTRACT

Despite the impressive achievements of Deep Neural Networks (DNNs) in computer vision, their vulnerability to adversarial attacks remains a critical concern. Extensive research has demonstrated that incorporating sophisticated perturbations into input images can lead to a catastrophic degradation in DNNs' performance. This perplexing phenomenon not only exists in the digital space but also in the physical world. Consequently, it becomes imperative to evaluate the security of DNNs-based systems to ensure their safe deployment in real-world scenarios, particularly in security-sensitive applications. To facilitate a profound understanding of this topic, this paper presents a comprehensive overview of physical adversarial attacks. Firstly, we distill four general steps for launching physical adversarial attacks. Building upon this foundation, we uncover the pervasive role of artifacts carrying adversarial perturbations in the physical world. These artifacts influence each step. To denote them, we introduce a new term: adversarial medium. Then, we take the first step to systematically evaluate the performance of physical adversarial attacks, taking the adversarial medium as a first attempt. Our proposed evaluation metric, hiPAA, comprises six perspectives: Effectiveness, Stealthiness, Robustness, Practicability, Aesthetics, and Economics. We also provide comparative results across task categories, together with insightful observations and suggestions for future research directions.

연구 동기 및 목표

• 물리적 adversarial 공격이 실제 환경에서 어떻게 구성되고 평가되는지 명확히 한다.
• 물리적 공격 매개체를 통합하기 위한 adversarial medium 개념을 도입한다.
• 여섯 가지 관점으로 방법을 비교하는 unified 평가 프레임워크 hiPAA를 제안한다.
• CV 작업(classification, detection, re-identification) 전반의 방법들을 조사하고 종합하며 open challenges를 식별한다.

제안 방법

• 물리적 adversarial 공격을 위한 네 단계의 워크플로우를 정의한다: perturbation generation, adversarial medium manufacturing, threat image capture, and attacking.
• 물리적 세계에서 perturbation의 운반체로서의 adversarial medium 개념을 도입한다.
• hiPAA를 제안한다. 여섯 가지 차원(Effectiveness, Stealthiness, Robustness, Practicability, Aesthetics, and Economics)을 따라 물리적 공격을 평가하는 육각형 지표.
• adversarial medium(스티커/패치, 의류, 이미지, 조명, 카메라, TC 재료, 메이크업, 3D 프린트 아티팩트)별로 조직된 구조화된, 작업별 물리적 공격 방법에 대한 조사.
• 향후 연구 및 실제 배치 고려사항을 안내하기 위한 비교 분석과 인사이트를 제공한다.

실험 결과

연구 질문

• RQ1 지난 10년 동안 어떻게 물리적 adversarial attack 매체가 주도적으로 변화해 왔는가?
• RQ2 CV 작업 간에 상이한 물리적 공격 방법을 비교하기 위한 단일화된 평가 프레임워크를 어떻게 설계할 수 있는가?
• RQ3 attack의 효과성, 은닉성, 강건성, 실용성 등에 영향을 미치는 주요 한계점과 실제 도전과제는 무엇인가?

주요 결과

• 단일화된 네 단계 워크플로우와 adversarial medium 개념은 물리적 교란이 어떻게 전달되고, 제조되며, 포착되어 사용되는지 드러낸다.
• hiPAA 지표는 여러 작업 간 물리적 공격을 비교하는 구조화된 다중 기준 기초를 제공한다.
• 물리적 adversarial 공격은 얼굴 인식, 개인 재식별, 교통 표지판 탐지 등 다양한 CV 작업에서 입증되었으며, 광학 흐름, 깊이 추정, 분할 등과 같은 다른 작업에서도 나타난다.
• 이 연구는 매체와 연대순으로 많은 방법들을 통합 정리하여 실세계 배치의 진전, 한계 및 실용적 고려사항을 강조한다.