[論文レビュー] Emerging Threats in Deep Learning-Based Autonomous Driving: A Comprehensive Survey

Hui Cao, Wenlong Zou+3 more|arXiv (Cornell University)|Oct 19, 2022

Adversarial Robustness in Machine Learning被引用数 5

ひとこと要約

本稿は、深層学習に基づく自動運転システムにおける新たなセキュリティ脅威について包括的なサーベイを提供しており、物理世界、耐性、マルチモodal融合環境における敵対的例、バックドア、プライバシー攻撃に焦点を当てている。本稿では、安全性と信頼性を向上させるために、評価システムとアーキテクチャ的原則を備えた信頼性のあるAIフレームワークを提案している。

ABSTRACT

Since the 2004 DARPA Grand Challenge, the autonomous driving technology has witnessed nearly two decades of rapid development. Particularly, in recent years, with the application of new sensors and deep learning technologies extending to the autonomous field, the development of autonomous driving technology has continued to make breakthroughs. Thus, many carmakers and high-tech giants dedicated to research and system development of autonomous driving. However, as the foundation of autonomous driving, the deep learning technology faces many new security risks. The academic community has proposed deep learning countermeasures against the adversarial examples and AI backdoor, and has introduced them into the autonomous driving field for verification. Deep learning security matters to autonomous driving system security, and then matters to personal safety, which is an issue that deserves attention and research.This paper provides an summary of the concepts, developments and recent research in deep learning security technologies in autonomous driving. Firstly, we briefly introduce the deep learning framework and pipeline in the autonomous driving system, which mainly include the deep learning technologies and algorithms commonly used in this field. Moreover, we focus on the potential security threats of the deep learning based autonomous driving system in each functional layer in turn. We reviews the development of deep learning attack technologies to autonomous driving, investigates the State-of-the-Art algorithms, and reveals the potential risks. At last, we provides an outlook on deep learning security in the autonomous driving field and proposes recommendations for building a safe and trustworthy autonomous driving system.

研究の動機と目的

• 深層学習に基づく自動運転システムに特有の新たなAIセキュリティ脅威を特定および分析すること。
• 物理世界における攻撃、環境変動下での耐性、マルチモダリティセンサーフュージョンに起因する独自の課題を検討すること。
• 自動運転に特化した最新の敵対的攻撃および防御技術をレビューすること。
• 信頼性のあるAIを構築する包括的なフレームワークを提案すること。これには評価システムとアーキテクチャ的原則が含まれる。
• 安全性と一般の信頼を確保するため、点対点の解決策を超えた統合的セキュリティ対策の緊急の必要性を強調すること。

提案手法

• 物理世界への適用可能性、環境変動下での耐性、マルチモダリティフュージョンの安定性という3つの主要な次元に沿って、自動運転における深層学習の脅威を体系的に分類する。
• 基礎的な敵対的攻撃手法をレビューする。これには、ホワイトボックス（例：FGSM、PGD、CW）、ブラックボックス（例：転送ベース、勾配近似、スコアベース、意思決定ベース）、最適化ベースの攻撃が含まれる。
• モデルの逆転、メンバーシップ推定、データ汚染、バックドア攻撃を、自動運転のデータおよびモデルパイプラインの文脈で分析する。
• 敵対的耐性評価、クロスドメインデータの耐性、トレーニングデータの安全性検証に基づく、多層構造の防御戦略を提案する。
• 透明性、公平性、プライバシー、責任性、人的監視を強調する信頼性のあるAIアーキテクチャのフレームワークを導入する。
• 車両インターネット（Vehicular IoT）におけるフェデレーテッドラーニングとエッジコンピューティングのリスクを評価する。これには、Byzantine攻撃と、車両間のデータ類似性に起因するプライバシー漏洩が含まれる。

実験結果

リサーチクエスチョン

• RQ1 一般のAIアプリケーションとは異なる、自動運転システムにおける深層学習に特有のセキュリティ脅威は何か？
• RQ2 敵対的例とバックドアは、物理世界の環境およびマルチモダリティセンサーフュージョンシステムにおいてどのように現れるのか？
• RQ3 照明、天候、高速移動などの変動環境下でAIモデルの耐性を確保する上で直面する主な課題は何か？
• RQ4 自動運転システムの複雑で多成分構造を対象とするために、既存の防御メカニズムをどのように適合または拡張できるか？
• RQ5 自動車用の信頼性のあるAIエコシステムを構築するために、どのような体系的アーキテクチャ的および評価フレームワークが必要か？

主な発見

• 自動運転における敵対的攻撃は、デジタルシミュレーションに限らず、物理世界でも実現可能であり、歪みを加えた標識やセンサ入力を介して実際の車両に影響を与える。
• 敵対的例の耐性は、照明、天候、視点角度の多様な変動要因によって著しく脅かされるため、攻撃および防御が多様な環境条件下で安定する必要がある。
• カメラ、LiDAR、レーダーなどのマルチモダリティ統合環境（例：マルチモダリティ統合）は、異なるモダリティにわたって敵対的摂動を注入できる新たな攻撃表面をもたらし、統合出力においても有効に機能する。
• PGD、CW、意思決定ベースの攻撃（例：Boundary Attack）などの最新の攻撃手法は、実際の自動運転システムへの敵対的例の転送成功率が非常に高いことが示されている。
• 車両インターネットにおけるフェデレーテッドラーニングは、車両間のデータ分布が類似していることと、個々のノードが侵害される可能性があることから、Byzantine攻撃およびプライバシー漏洩のリスクが高まる。
• 包括的な信頼性のあるAIシステムには、特定の脅威に対する防御に加え、AIライフサイクル全体にわたり、安全性、透明性、公平性、プライバシー、責任性を統合する包括的なアーキテクチャが不可欠である。