[論文レビュー] Challenges of engineering safe and secure highly automated vehicles

Nadja Marko, Eike Möhlmann+4 more|arXiv (Cornell University)|Mar 5, 2021

Autonomous Vehicle Technology and Safety被引用数 4

ひとこと要約

本論文は、安全で信頼性の高い高度自動運転車両（HAVs）の実現を阻害する4つの核心的技術的課題を特定し、分析している：デプロイ後における継続的システム改善、不確実性および情報の不完全性の取り扱い、機械学習部品の検証、信頼性の高い予測。著者らは、産業界と学術界の協働を通じて、これらの課題に的を絞ったアプローチを提案し、自動運転車両の導入に伴う現在の「期待の裏切り」を克服することを目的としている。

ABSTRACT

After more than a decade of intense focus on automated vehicles, we are still facing huge challenges for the vision of fully autonomous driving to become a reality. The same "disillusionment" is true in many other domains, in which autonomous Cyber-Physical Systems (CPS) could considerably help to overcome societal challenges and be highly beneficial to society and individuals. Taking the automotive domain, i.e. highly automated vehicles (HAV), as an example, this paper sets out to summarize the major challenges that are still to overcome for achieving safe, secure, reliable and trustworthy highly automated resp. autonomous CPS. We constrain ourselves to technical challenges, acknowledging the importance of (legal) regulations, certification, standardization, ethics, and societal acceptance, to name but a few, without delving deeper into them as this is beyond the scope of this paper. Four challenges have been identified as being the main obstacles to realizing HAV: Realization of continuous, post-deployment systems improvement, handling of uncertainties and incomplete information, verification of HAV with machine learning components, and prediction. Each of these challenges is described in detail, including sub-challenges and, where appropriate, possible approaches to overcome them. By working together in a common effort between industry and academy and focusing on these challenges, the authors hope to contribute to overcome the "disillusionment" for realizing HAV.

研究の動機と目的

• 安全で信頼性のある高度自動運転車両（HAVs）の導入を妨げる主な技術的障壁を特定し、分析すること。
• 法的・倫理的・社会的側面を除き、HAVにおける工学的課題に焦点を当て、進展のための技術的基盤を提供すること。
• システム改善、不確実性管理、ML部品の検証、予測精度の向上という、重要な課題を克服するための実行可能なアプローチを提案すること。
• 信頼できる自律型サイバーフィジカルシステムの実現を加速するために、産業界と学術界の連携を促進すること。

提案手法

• HAV工学における4つの主要な技術的課題を体系的に特定：デプロイ後継続的改善、不確実性および情報の不完全性の取り扱い、機械学習部品の検証、不確実性下での予測。
• 各主要課題内でのサブ課題を分析し、例えばデータ不足、モデルの一般化、AI部品の実行時検証などを含む。
• OTAアップデート、不確実性を考慮したAIアーキテクチャ、MLモデルの形式的検証手法、確率的予測フレームワークといった技術的アプローチを提案。
• デプロイ後、実世界のデータから安全に学習し続ける適応的で自己改善型のシステムの必要性を強調。
• エッジケースや分布シフトを考慮した、堅牢なテストおよび検証パイプラインの重要性を強調。
• HAV向けに標準的でスケーラブルかつ検証可能な工学的実践を発展させるために、産業界と学術界の共同取り組みを提唱。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、安全で信頼性のあるHAVをデプロイ後も継続的に改善できるか？
• RQ2 現実の走行環境における不確実性および情報の不完全性を管理する上で、どのような主な課題があるか？
• RQ3 自律走行システムにおける機械学習部品の正しさと信頼性を検証するための手法は何か？
• RQ4 将来の走行シナリオおよびシステム動作を安全な意思決定を保証するために、どのようにして正確に予測できるか？

主な発見

• 安全で信頼性があり、検証可能なOTAアップデートおよび学習メカニズムを備えた継続的デプロイ後改善は、依然として大きな課題のままである。
• センサーの制限、環境の変動性、レアイベントを考慮した、堅牢なモデリング技術の導入が、不確実性および情報の不完全性の取り扱いに不可欠である。
• 分布シフトやエッジケース下での挙動を保証できる形式的手法の欠如が、HAVにおける機械学習部品の検証を阻害している。
• 長尾シナリオの存在と、長期にわたる時間的予測における高い信頼性が求められるため、自律走行における予測は本質的に困難である。
• 現在のHAV工学的手法は、完全な信頼性を達成するには不十分であり、安全、信頼性、適応性を統合する新しいフレームワークの導入が不可欠である。
• 産業界と学術界の連携が、これらの課題を克服し、自動運転車両開発における現在の「期待の裏切り」を乗り越えるために不可欠である。