[論文レビュー] Designing Automated Vehicle and Traffic Systems towards Meaningful Human Control

Simeon C. Calvert, Stig Ole Johnsen+1 more|arXiv (Cornell University)|Mar 9, 2023

Safety Systems Engineering in Autonomy被引用数 4

ひとこと要約

本論文は、接続型自動運転車（CAVs）に意味のある人間のコントロール（MHC）を統合的に埋め込むための統合的システム近接フレームワークと運用プロセス設計アプローチを提案する。これにより、車両設計者や政府が人的監視を体系的かつ一貫して確保できるようになる。暗黙的な近接的および明示的な遠隔的更新メカニズムを統合することで、システムの安全性と責任性が向上し、3つの実世界の事例を通じてその有効性が実証された。本研究は、MHCを規制および設計プロセスに正式に統合するよう求める。

ABSTRACT

Ensuring operational control over automated vehicles is not trivial and failing to do so severely endangers the lives of road users. An integrated approach is necessary to ensure that all agents play their part including drivers, occupants, vehicle designers and governments. While progress is being made, a comprehensive approach to the problem is being ignored, which can be solved in the main through considering Meaningful Human Control (MHC). In this research, an Integrated System Proximity framework and Operational Process Design approach to assist the development of Connected Automated Vehicles (CAV) under the consideration of MHC are introduced. These offer a greater understanding and basis for vehicle and traffic system design by vehicle designers and governments as two important influencing stakeholders. The framework includes an extension to a system approach, which also considers ways that MHC can be improved through updating: either implicit proximal updating or explicit distal updating. The process and importance are demonstrated in three recent cases from practice. Finally, a call for action is made to government and regulatory authorities, as well as the automotive industry, to ensure that MHC processes are explicitly included in policy, regulations, and design processes to ensure future ad-vancement of CAVs in a responsible, safe and humanly agreeable fashion.

研究の動機と目的

• 自動運転車システムにおける運用的コントロールの維持という、道路利用者への危険を回避するための重要な課題に対処すること。
• 車両設計者、乗員、政府を含む、人間の監視を保証する包括的で統合的なアプローチを構築すること。
• 構造的なシステムおよびプロセス設計フレームワークを通じて、意味のある人間のコントロール（MHC）を実務化すること。
• 実世界のCAV事例を用いて、フレームワークの実用的適用可能性を示すこと。
• MHCをCAV開発および政策分野における義務的要件として、規制および産業分野での採用を提唱すること。

提案手法

• 接続型自動運転車（CAVs）の設計に意味のある人間のコントロール（MHC）を体系的に統合するための統合的システム近接フレームワークの開発。
• 2つの更新メカニズムの統合：暗黙的な近接的更新（リアルタイム、局所的コントロール）および明示的な遠隔的更新（意図的で政策レベルの監視）。
• 人間のコントロールをシステムライフサイクルの各段階に体系的に構造化するための運用プロセス設計アプローチの適用。
• 3つの最近のCAV事例を用いて、フレームワークが実際のMHCをどのように支援するかを説明。
• 設計者、規制当局、ユーザーといったステークホルダーの役割を統合的コントロールアーキテクチャに統合。
• MHCをコア原則として位置づけ、システム設計を規制および倫理基準と一致させる。

実験結果

リサーチクエスチョン

• RQ1 意味のある人間のコントロール（MHC）は、接続型自動運転車（CAVs）の設計にどのように体系的に統合可能か？
• RQ2 自動運転車および交通システムにおける効果的な人間監視を可能にする構造的および手続的メカニズムは何か？
• RQ3 近接的（暗黙的）および遠隔的（明示的）更新メカニズムは、MHCの維持にどのように寄与するか？
• RQ4 車両設計者と政府は、CAV開発におけるMHCをどのように共同で確保できるか？
• RQ5 実世界のCAV導入事例において、MHC統合の実現可能性と価値を示す実用的例は何か？

主な発見

• 統合的システム近接フレームワークは、CAVおよび交通システム設計にMHCを統合するための体系的かつ明確な手法を提供する。
• 暗黙的な近接的更新と明示的な遠隔的更新の組み合わせにより、リアルタイムへの対応性と長期的責任性の両方が向上する。
• 3つの実世界のCAV事例が、多様な運用状況下でもフレームワークの実用的妥当性を示している。
• フレームワークは、安全と人間の自律性を最優先に据えた、ステークホルダーを統合した包括的で包括的なシステム設計を支援する。
• MHCを規制および産業分野における公式な要件として採用することは、責任あるCAVの進展に不可欠である。
• 本研究は、政策統合の基盤を確立し、今後の基準および設計プロセスにMHCを組み込むよう強く要請する。