[논문 리뷰] Emerging Threats in Deep Learning-Based Autonomous Driving: A Comprehensive Survey

Hui Cao, Wenlong Zou외 3명|arXiv (Cornell University)|2022. 10. 19.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

이 논문은 딥러닝 기반 자율주행 시스템에서 발생하는 새로운 보안 위협에 대한 종합적인 서베이를 제공하며, 실제 세계 환경, 내구성, 다중 모odal 융합 환경에서의 적대적 예제, 백도어, 프라이버시 공격을 중심으로 다룹니다. 자율주행 차량의 안전성과 신뢰성 향상을 위해 평가 시스템과 아키텍처 원칙을 포함한 신뢰할 수 있는 AI 프레임워크를 제안합니다.

ABSTRACT

Since the 2004 DARPA Grand Challenge, the autonomous driving technology has witnessed nearly two decades of rapid development. Particularly, in recent years, with the application of new sensors and deep learning technologies extending to the autonomous field, the development of autonomous driving technology has continued to make breakthroughs. Thus, many carmakers and high-tech giants dedicated to research and system development of autonomous driving. However, as the foundation of autonomous driving, the deep learning technology faces many new security risks. The academic community has proposed deep learning countermeasures against the adversarial examples and AI backdoor, and has introduced them into the autonomous driving field for verification. Deep learning security matters to autonomous driving system security, and then matters to personal safety, which is an issue that deserves attention and research.This paper provides an summary of the concepts, developments and recent research in deep learning security technologies in autonomous driving. Firstly, we briefly introduce the deep learning framework and pipeline in the autonomous driving system, which mainly include the deep learning technologies and algorithms commonly used in this field. Moreover, we focus on the potential security threats of the deep learning based autonomous driving system in each functional layer in turn. We reviews the development of deep learning attack technologies to autonomous driving, investigates the State-of-the-Art algorithms, and reveals the potential risks. At last, we provides an outlook on deep learning security in the autonomous driving field and proposes recommendations for building a safe and trustworthy autonomous driving system.

연구 동기 및 목표

• 딥러닝 기반 자율주행 시스템에 특화된 새로운 AI 보안 위협을 식별하고 분석하기.
• 실제 세계 공격, 환경 변화에 대한 내구성, 다중 모달 센서 융합 환경에서 발생하는 고유한 과제를 검토하기.
• 자율주행에 특화된 최신 적대적 공격 및 방어 기법을 검토하기.
• 평가 시스템과 아키텍처 원칙을 포함한 자율주행 차량을 위한 종합적인 신뢰할 수 있는 AI 프레임워크를 제안하기.
• 안전성과 대중 신뢰를 확보하기 위해 점별 솔루션을 넘어서 통합된 보안 조치가 급히 필요하다는 점을 강조하기.

제안 방법

• 실제 세계 적용 가능성, 환경 변화에 대한 내구성, 다중 모달 융합 안정성의 세 가지 핵심 차원을 기준으로 자율주행 시스템 내 딥러닝 위협을 체계적으로 분류합니다.
• 기초적인 적대적 공격 방법을 검토하며, 화이트박스 공격(예: FGSM, PGD, CW),_BLK박스 공격(예: 전이 기반, 기울기 근사, 점수 기반, 결정 기반), 최적화 기반 공격을 포함합니다.
• 모델 역산, 멤버십 추론, 데이터 풀링, 백도어 공격을 자율주행 데이터 및 모델 파이프라인의 맥락에서 분석합니다.
• 적대적 내구성 평가, 다중 도메인 데이터 내구성, 학습 데이터 안전성 검증 기반의 다층적 방어 전략을 제안합니다.
• 투명성, 공정성, 프라이버시, 책임성, 인간의 감시를 강조하는 신뢰할 수 있는 AI 아키텍처 프레임워크를 도입합니다.
• 차량 IoT 환경에서의 연합 학습과 엣지 컴퓨팅의 위험을 평가하며, 비잔틴 공격과 차량 간 데이터 유사성으로 인한 프라이버시 泄露를 포함합니다.

실험 결과

연구 질문

• RQ1 일반적인 AI 응용과 비교해 딥러닝이 자율주행 시스템에 적용될 때 특유의 보안 위협은 무엇인가요?
• RQ2 적대적 예제와 백도어는 실제 물리적 환경과 다중 모달 센서 융합 시스템에서 어떻게 나타나나요?
• RQ3 다양한 조명, 기상 조건, 고속 이동 조건에서 AI 모델의 내구성을 확보하는 데 있어 핵심 과제는 무엇인가요?
• RQ4 기존의 방어 메커니즘은 복잡한 다중 구성 요소 아키텍처를 가진 자율주행 시스템에 어떻게 적응하거나 확장될 수 있나요?
• RQ5 자율주행 차량을 위한 보다 통합적인 보안 생태계를 조성하기 위해 필요한 체계적 아키텍처 및 평가 프레임워크는 무엇인가요?

주요 결과

• 자율주행 차량에서의 적대적 공격는 디지털 시뮬레이션에 국한되지 않으며, 왜곡된 교통 표지판이나 센서 입력을 통해 실제 차량에 영향을 미칠 수 있습니다.
• 환경 변화에 따른 적대적 예제의 내구성은 심각하게 도전받으며, 다양한 조명, 기상 조건, 시야 각도에서 안정적인 공격 및 방어가 요구됩니다.
• 다중 모달 융합 환경(예: 카메라, LiDAR, 레이더)은 다중 모달 간에 적대적 편향을 주입하고 융합된 출력에서도 효과를 유지할 수 있는 새로운 공격 표면을 제공합니다.
• 최신 공격 기법인 PGD, CW, 결정 기반 공격(예: 바운더리 공격)은 실제 자율주행 시스템으로의 적대적 예제 전이 성공률가 매우 높습니다.
• 차량 IoT 환경에서의 연합 학습은 차량 간 데이터 분포 유사성과 개별 노드의 유출 가능성이 있어 비잔틴 공격 및 프라이버시 泄露 위험이 증가합니다.
• 완전한 신뢰할 수 있는 AI 시스템은 특정 위협에 대한 방어 외에도, 전체 AI 라이프사이클에 걸쳐 안전성, 투명성, 공정성, 프라이버시, 책임성을 통합하는 종합적 아키텍처가 필요합니다.