[論文レビュー] DeepBillboard: Systematic Physical-World Testing of Autonomous Driving Systems

Husheng Zhou, Wei Li+5 more|arXiv (Cornell University)|Dec 27, 2018

Adversarial Robustness in Machine Learning参考文献 23被引用数 41

ひとこと要約

DeepBillboard は、道路沿いの広告看板に印刷可能な摂動を塗布することで自動運転システムの操舵決定を誤導する、物理世界の体系的な対話テストアプローチを開発し、デジタルと物理世界のケーススタディの両方で評価される。

ABSTRACT

Deep Neural Networks (DNNs) have been widely applied in many autonomous systems such as autonomous driving. Recently, DNN testing has been intensively studied to automatically generate adversarial examples, which inject small-magnitude perturbations into inputs to test DNNs under extreme situations. While existing testing techniques prove to be effective, they mostly focus on generating digital adversarial perturbations (particularly for autonomous driving), e.g., changing image pixels, which may never happen in physical world. There is a critical missing piece in the literature on autonomous driving testing: understanding and exploiting both digital and physical adversarial perturbation generation for impacting steering decisions. In this paper, we present DeepBillboard, a systematic physical-world testing approach targeting at a common and practical driving scenario: drive-by billboards. DeepBillboard is capable of generating a robust and resilient printable adversarial billboard, which works under dynamic changing driving conditions including viewing angle, distance, and lighting. The objective is to maximize the possibility, degree, and duration of the steering-angle errors of an autonomous vehicle driving by the generated adversarial billboard. We have extensively evaluated the efficacy and robustness of DeepBillboard through conducting both digital and physical-world experiments. Results show that DeepBillboard is effective for various steering models and scenes. Furthermore, DeepBillboard is sufficiently robust and resilient for generating physical-world adversarial billboard tests for real-world driving under various weather conditions. To the best of our knowledge, this is the first study demonstrating the possibility of generating realistic and continuous physical-world tests for practical autonomous driving systems.

研究の動機と目的

• デジタル摂動を超えた物理世界での自動運転DNNの堅牢なテストを促進する。
• 複数の運転フレームに跨って効果的な印刷可能な敵対的看板摂動を生成する共同最適化法を開発する。
• さまざまな視認条件下での操舵角決定への摂動の影響をモデル化し評価する。
• 物理世界の敵対的テストの有効性と堅牢性を定量化する評価指標を提案する。

提案手法

• 一連のフレームにわたって操舵モデルを誤誘導する単一の印刷可能な摂動を生成する共同最適化問題を定式化する。
• フレーム摂動を、フレーム間の重なりと干渉を減らすために、影響力のあるピクセルの少数に制限する。
• 摂動が実際のプリンターで印刷可能であることを保証するために、非印刷性スコアを最小化する。
• 異なるフレームでの環境照明の変動を考慮するためにカラー調整を組み込む。
• 印刷可能な摂動を各フレームに写像する射影関数を使用し、勾配ベースの手法で最適化する。
• 摂動提案を反復し、カラー/デジタル制約を適用し、ピクセルの重複を処理し、操舵角の発散を最大化する摂動を選択するアルゴリズム（Algorithm 1）を提供する。

実験結果

リサーチクエスチョン

• RQ1 道路際の看板に印刷可能な摂動は、距離が変化し視角が変わる中で、走行中の自動運転車の操舵角の一貫したずれを引き起こすことができるか？
• RQ2 このような物理的摂動は、照明条件の変化、天候、プリンターの制約の下でどれだけ堅牢か？
• RQ3 操舵モデルに対する物理世界の敵対効果の強さと発生可能性を効果的に捉える指標は何か？
• RQ4 単一の看板摂動を、単一のスナップショットではなく一連のフレームに影響を及ぼすように最適化できるか？
• RQ5 デジタル評価は、DaveおよびEpochのような操舵モデルの物理世界実験にどれくらいうまく翻訳されるか？

主な発見

• デジタルテストでは、DeepBillboard が複数の操舵モデルとシーンで操舵を誤誘導でき、デジタル実験での平均操舵角誤差は最大で41.93度だった。
• 物理的ケーススタディは、さまざまな天候条件下での頑健性を示し、平均操舵角誤差は4.86度から26.44度を示した。
• このアプローチは、実用的な自動運転システムのための現実的で連続的な物理世界テストを可能にする。
• 本手法は、看板以外の物理表面、例えば壁の落書きなど、へも一般化可能。
• 本研究は、印刷可能な敵対的アーティファクトを用いた操舵モデルの検証とストレステストの枠組みを提供する。