[論文レビュー] The Challenges and Opportunities of Human-Centered AI for Trustworthy Robots and Autonomous Systems

Hongmei He, J. M. N. T. Gray+4 more|arXiv (Cornell University)|May 7, 2021

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本論文は、信頼性のあるロボットおよび自律システム（RAS）を設計するための人間中心のAI（HAI）フレームワークを提案する。このフレームワークは、安全性、セキュリティ、故障耐性、人間-機械インタラクション（HMI）の信頼性、法的・倫理的適合性の5つの核心的特性に注力している。これらの特性を実装する際の課題を分析し、AIが信頼性を高める役割を果たすことを明らかにし、人間レベルの知能と社会的利点を最優先する、設計段階から信頼性を統合する新しい受容モデルを提示する。

ABSTRACT

The trustworthiness of Robots and Autonomous Systems (RAS) has gained a prominent position on many research agendas towards fully autonomous systems. This research systematically explores, for the first time, the key facets of human-centered AI (HAI) for trustworthy RAS. In this article, five key properties of a trustworthy RAS initially have been identified. RAS must be (i) safe in any uncertain and dynamic surrounding environments; (ii) secure, thus protecting itself from any cyber-threats; (iii) healthy with fault tolerance; (iv) trusted and easy to use to allow effective human-machine interaction (HMI), and (v) compliant with the law and ethical expectations. Then, the challenges in implementing trustworthy autonomous system are analytically reviewed, in respects of the five key properties, and the roles of AI technologies have been explored to ensure the trustiness of RAS with respects to safety, security, health and HMI, while reflecting the requirements of ethics in the design of RAS. While applications of RAS have mainly focused on performance and productivity, the risks posed by advanced AI in RAS have not received sufficient scientific attention. Hence, a new acceptance model of RAS is provided, as a framework for requirements to human-centered AI and for implementing trustworthy RAS by design. This approach promotes human-level intelligence to augment human's capacity. while focusing on contributions to humanity.

研究の動機と目的

• 動的で不確実性の高い環境において信頼性のあるロボットおよび自律システム（RAS）の需要が高まっているのに対応すること。
• 安全性、セキュリティ、健康、HMI、倫理的適合性の各分野におけるRASの信頼性を確保するための主な課題を特定・分析すること。
• 倫理的・社会的要件をRAS設計に標準的に統合する人間中心のAI（HAI）フレームワークを提唱すること。
• RAS開発における焦点を、性能や生産性から人間レベルの知能拡張と社会的利益への転換すること。
• HAIの原則に裏付けられた、信頼性を設計段階から組み込む新しいRAS受容モデルを確立すること。

提案手法

• 信頼性のあるRASの5つの核心的特性を特定する：動的環境における安全性、サイバー・セキュリティ、故障耐性（健康）、効果的な人間-機械インタラクション（HMI）、法的・倫理的適合性。
• 各信頼性特性の実装における技術的および社会的課題を分析する。
• AI技術が安全性、セキュリティ、システムの健康状態、HMIの有効性をどのように向上させるかを評価する。
• 人間中心のAIに基づく新しいRAS受容モデルを提唱する。信頼性を設計段階から統合することを強調する。
• 倫理的配慮をRAS設計ライフサイクルに統合し、社会的期待と法的基準に整合することを保証する。
• AIの使用を自動化のためのものにとどめず、人間の能力を拡張し、人類に肯定的貢献をもたらすものにすることを促進する。

実験結果

リサーチクエスチョン

• RQ1 人間中心のAIをどのように体系的に応用することで、ロボットおよび自律システムの信頼性を確保できるか？
• RQ2 自律システムにおける安全性、セキュリティ、故障耐性を達成するにあたり、主な技術的および倫理的課題は何か？
• RQ3 AIは、RASにおける信頼性と使いやすさを高めるために、人間-機械インタラクション（HMI）をどのように向上させられるか？
• RQ4 法的・倫理的適合性を自律システムの設計段階からどのように組み込むことができるか？
• RQ5 人間中心のAIの原則に従って信頼性のあるRASの開発を導くために、どのような新しい受容モデルが必要か？

主な発見

• 本論文は、信頼性のあるRASのための5つの基盤的特性を確立している：安全性、セキュリティ、故障耐性、HMIの信頼性、法的・倫理的適合性。
• 現在のRASの応用では、AIリスクの科学的吟味よりも、性能や生産性の優先がなされていると同定されている。
• 研究は、適切に統合された場合、AI技術がRASにおける安全性、セキュリティ、システムの健康状態を顕著に向上させられることを強調している。
• 効果的な人間-機械インタラクション（HMI）は信頼性の鍵であり、AIは直感的で信頼性が高く透明性のある協働を支援するように設計されなければならない。
• 提唱されたHAIに基づく受容モデルにより、信頼性が設計段階からRASの核心的要件として統合可能である。
• このフレームワークは、人間レベルの知能拡張を中核的な目的として位置づけ、RASが社会および人類に肯定的貢献することを保証する。