[論文レビュー] Trust Considerations for Explainable Robots: A Human Factors Perspective

Lindsay Sanneman, Julie Shah|arXiv (Cornell University)|May 12, 2020

Human-Automation Interaction and Safety参考文献 11被引用数 11

ひとこと要約

本稿は、人間要因の原則を説明可能なロボティクスに統合し、人間-ロボットチームの設計に向けた信頼の3大検討事項—信頼の根拠、信頼のキャリブレーション、信頼の特異性—を特定する。ロボットの説明に基づく信頼を評価するためのメトリクスを提案することで、実証的で人間要因に基づいた研究に裏打ちされた、文脈に適した透明な説明を通じて、人間の理解とチームパフォーマンスを向上させる。

ABSTRACT

Recent advances in artificial intelligence (AI) and robotics have drawn attention to the need for AI systems and robots to be understandable to human users. The explainable AI (XAI) and explainable robots literature aims to enhance human understanding and human-robot team performance by providing users with necessary information about AI and robot behavior. Simultaneously, the human factors literature has long addressed important considerations that contribute to human performance, including human trust in autonomous systems. In this paper, drawing from the human factors literature, we discuss three important trust-related considerations for the design of explainable robot systems: the bases of trust, trust calibration, and trust specificity. We further detail existing and potential metrics for assessing trust in robotic systems based on explanations provided by explainable robots.

研究の動機と目的

• 実世界のチーム作業シナリオにおいて、単に説明可能であるだけでなく信頼できる人間-ロボットシステムの増加するニーズに対応すること。
• とりわけ説明可能性の文脈において、自律的ロボットシステムにおける信頼に影響を与える主要な人間要因を同定すること。
• 信頼を心理学的および行動的原則に根ざさせることで、説明可能AI（XAI）と人間要因研究の間のギャップを埋めること。
• 説明の質と内容に基づいて、ロボットシステムにおける信頼を測定する実用的メトリクスを提案すること。
• 動的チーム作業環境において、正確で、適応的で、状況に応じた人間の信頼を支援する説明可能なロボットの設計をガイドすること。

提案手法

• 定評のある人間要因文献に裏打ちされたものとして、信頼の3大基盤的次元（信頼の根拠（例：能力、信頼性）、信頼のキャリブレーション（実際のシステム性能に対する信頼の正確さ）、信頼の特異性（異なるシステム行動に対する文脈依存的信頼））を同定する。
• ロボットが提供する説明に対する反応として、行動的、生理的、自己報告的測定の既存および可能性のあるメトリクスを分析する。
• 人間-コンピュータインタラクションおよび認知的システム工学の知見を統合し、説明が意味的で、適切なタイミングで、人間の認知的モデルと整合するように保証する。
• 説明の内容を信頼関連の結果にマッピングする設計指向のフレームワークを提示し、説明が単に情報的であるのではなく、信頼を形成する上で機能的に効果的であることを保証する。
• 認知的負荷、タスク文脈、意思決定のニーズに応じた説明のカスタマイズが、信頼とパフォーマンスの最適化に重要であることを強調する。
• 本アプローチは、実験的ヒューリスティック研究、特にチーム作業の文脈における人間-ロボットインタラクションの研究レビューを通じて検証され、実証的証拠に裏付けられたフレームワークを構築する。

実験結果

リサーチクエスチョン

• RQ1 自律的ロボットシステムにおける人間の信頼の背後にある主な心理的および行動的根拠は何か？
• RQ2 ユーザーの自信がロボットの実際の信頼性およびパフォーマンスと一致するように、ロボットの信頼を効果的にキャリブレーションする方法は何か？
• RQ3 信頼はどのような形で異なるタスクや文脈によって変化するのか？説明は、文脈に応じた信頼を支援するためにどのようにカスタマイズできるか？
• RQ4 ロボットシステムにおける説明の影響を人間の信頼に対して客観的に評価するためのメトリクスは何か？
• RQ5 説明可能なロボットシステムは、どのように設計することで、人間-ロボットチームにおける正確で、適応的で、状況に適した信頼を支援できるか？

主な発見

• ロボットにおける信頼の根拠は、認識された能力、信頼性、予測可能性に根ざしており、説明がその認識を形成する上で重要な役割を果たす。
• 信頼のキャリブレーションは極めて重要である：誤った説明による過剰な信頼はシステム障害を引き起こし得るが、逆に過小信頼はシステムの利用を減少させる。
• 信頼は一様ではない—タスクの文脈によって変動し、説明は特定の行動や意思決定を説明するにあたり、適切な信頼水準をサポートするようにカスタマイズされる必要がある。
• 行動的（例：タスクパフォーマンス）、生理的（例：眼動-tracking、心拍数）、自己報告的（例：信頼尺度）の範囲のメトリクスが、説明の信頼形成への効果を評価するために使用可能であると同定された。
• タイミングよく、関連性があり、ユーザーの認知的モデルと整合する説明は、信頼のキャリブレーションとチームパフォーマンスの両方を顕著に向上させる。
• 人間要因の原則を説明可能なロボティクスの設計に統合することで、より効果的で信頼性が高く、人間中心のロボットシステムが実現される。