[論文レビュー] Assured Autonomy: Path Toward Living With Autonomous Systems We Can Trust

Ufuk Topcu, Nadya Bliss+5 more|arXiv (Cornell University)|Oct 27, 2020

Insurance and Financial Risk Management被引用数 14

ひとこと要約

本論文は、防衛、移動、医療、インfraストラクチャーを含む分野において信頼できる自律システムを構築するためのコアな課題、研究動向、戦略的優先事項を特定するための一連のワークショップを通じて、信頼性のある自律性を実現するためのフレームワークを提示する。安全、信頼性、人間-システム連携を強調する統一された研究アジェンダを提唱することで、自律技術の社会的受容を可能にする。

ABSTRACT

The challenge of establishing assurance in autonomy is rapidly attracting increasing interest in the industry, government, and academia. Autonomy is a broad and expansive capability that enables systems to behave without direct control by a human operator. To that end, it is expected to be present in a wide variety of systems and applications. A vast range of industrial sectors, including (but by no means limited to) defense, mobility, health care, manufacturing, and civilian infrastructure, are embracing the opportunities in autonomy yet face the similar barriers toward establishing the necessary level of assurance sooner or later. Numerous government agencies are poised to tackle the challenges in assured autonomy. Given the already immense interest and investment in autonomy, a series of workshops on Assured Autonomy was convened to facilitate dialogs and increase awareness among the stakeholders in the academia, industry, and government. This series of three workshops aimed to help create a unified understanding of the goals for assured autonomy, the research trends and needs, and a strategy that will facilitate sustained progress in autonomy. The first workshop, held in October 2019, focused on current and anticipated challenges and problems in assuring autonomous systems within and across applications and sectors. The second workshop held in February 2020, focused on existing capabilities, current research, and research trends that could address the challenges and problems identified in workshop. The third event was dedicated to a discussion of a draft of the major findings from the previous two workshops and the recommendations.

研究の動機と目的

• 防衛、医療、輸送など多様な分野における自律システムに対する信頼の必要性が高まっているのに対応する。
• 安全性、信頼性、人間-システム相互作用を含む、自律性の保証に関する重要な課題を特定する。
• 既存の研究と能力を統合し、信頼性のある自律性分野における持続的進歩のための戦略的ロードマップを策定する。
• 学術界、産業界、政府関係者間の連携を促進し、信頼できる自律システムの発展を推進する。
• 信頼性のある自律性のための目標、研究ニーズ、実装戦略についての統一的理解を確立する。

提案手法

• 学術界、産業界、政府関係者から成る専門家を対象とした3回の構造的ワークショップを実施し、自律性保証における課題と解決策を議論した。
• 初回のワークショップでは、自律システムの保証に関する横断的課題を特定することに焦点を当てた。
• 2回目のワークショップでは、特定された課題に対処するための既存の能力、研究動向、技術的解決策を評価した。
• 3回目のワークショップでは、草案の調査結果と提言を評価し、一貫性のある研究アジェンダに統合した。
• 人工知能、人間-コンピュータインタラクション、マルチエージェントシステム、社会的影響の観点を統合する多様な分野の視点を採用した。
• 実行可能な提言と今後の研究のための戦略的フレームワークを含む公式レポート（CCCワークショップレポートNo. ccc2020report_5）を発行した。

実験結果

リサーチクエスチョン

• RQ1 異なる応用分野における自律システムの信頼性と信頼性を確保するための主な課題は何か？
• RQ2 自律性の保証ギャップを埋めるために活用できる既存の研究と技術的能力は何か？
• RQ3 人間要因とシステム相互作用を、信頼性のある自律システムの設計にどのように統合できるか？
• RQ4 信頼性のある自律性分野における持続的進歩を達成するための戦略的優先事項と研究方向性は何か？
• RQ5 政府、産業界、学術界のステークホルダーは、どのように効果的に連携して信頼できる自律システムを構築できるか？

主な発見

• 自律システムの急速な展開と、堅固な保証フレームワークの開発との間に顕著なギャップが存在する。
• 自律性への信頼は、多様な応用分野において、安全性、信頼性、透明性、および効果的な人間-システム相互作用に依存する。
• 現在の人工知能、人間-コンピュータインタラクション、マルチエージェントシステム分野の研究は、基盤的能力を提供しているが、統合と標準化が求められる。
• 政府、産業界、学術界のステークホルダー間の連携は、共通の目標を定義し、進捗を加速するために不可欠である。
• 研究の優先順位付け、資金配分の調整、自律システムにおける保証のための指標の確立を目的とした戦略的ロードマップの策定が不可欠である。
• 本レポートは、保証手法、形式的検証、自律システム設計における倫理的配慮の長期的投資の必要性を明らかにしている。