[論文レビュー] Trust-Aware Planning: Modeling Trust Evolution in Longitudinal Human-Robot Interaction.

Zahra Zahedi, Mudit Verma+2 more|arXiv (Cornell University)|May 3, 2021

Human-Automation Interaction and Safety参考文献 21被引用数 6

ひとこと要約

本論文は、人間の期待と信頼度をロボットの意思決定プロセスに統合することで、縦断的ヒューマンロボット相互作用において、時間経過に伴う人間の信頼をモデル化・維持できる信頼認識型計画フレームワークを提案する。信頼をメタ推論要因として扱うことで、ロボットは高価な説明性への依存を低減し、チームパフォーマンスを向上させつつ信頼を維持する。この有効性は、ヒューマンサブジェクト実験によって検証された。

ABSTRACT

Trust between team members is an essential requirement for any successful cooperation. Thus, engendering and maintaining the fellow team members' trust becomes a central responsibility for any member trying to not only successfully participate in the task but to ensure the team achieves its goals. The problem of trust management is particularly challenging in mixed human-robot teams where the human and the robot may have different models about the task at hand and thus may have different expectations regarding the current course of action and forcing the robot to focus on the costly explicable behavior. We propose a computational model for capturing and modulating trust in such longitudinal human-robot interaction, where the human adopts a supervisory role. In our model, the robot integrates human's trust and their expectations from the robot into its planning process to build and maintain trust over the interaction horizon. By establishing the required level of trust, the robot can focus on maximizing the team goal by eschewing explicit explanatory or explicable behavior without worrying about the human supervisor monitoring and intervening to stop behaviors they may not necessarily understand. We model this reasoning about trust levels as a meta reasoning process over individual planning tasks. We additionally validate our model through a human subject experiment.

研究の動機と目的

• 人間がロボットの行動を監視する状況における、縦断的ヒューマンロボットチームにおける信頼の維持という課題に対処すること。
• 計画プロセスに人間の信頼と期待をモデル化することで、ロボットの説明性への依存を低減すること。
• 常に人間の監視や干渉を受けずに、チームの目標最大化に集中できるようにすること。
• 個々の計画タスクの上での動的でメタ推論的なプロセスとして、信頼の変化をモデル化すること。
• 制御された相互作用環境下でのヒューマン参加者を用いた実証的評価を通じて、モデルの有効性を検証すること。

提案手法

• ロボットは、タスク進行状況や行動に関する人間の信頼と期待の動的モデルを維持する。
• 信頼度は、メタレベルの制約または目的として計画プロセスに統合される。
• ロボットは、自らの行動が時間経過に伴い信頼にどのように影響するかを推論する計算モデルを用いる。
• 計画プロセスは、タスクパフォーマンスと信頼維持の両立を図る信頼認識型アクション選択を含むように拡張される。
• 人間の期待と信頼状態の変化に適応できることで、長期的相互作用をサポートする。
• モデルの影響が信頼とタスクパフォーマンスに与える影響を評価するために、ヒューマンサブジェクト実験が実施された。

実験結果

リサーチクエスチョン

• RQ1 長期間にわたるヒューマンロボット相互作用において、ロボットはどのように進化する人間の信頼をモデル化・適応できるか？
• RQ2 信頼認識型計画は、ヒューマンロボット協働における説明性の必要性をどの程度低減できるか？
• RQ3 人間の期待をロボット計画に統合することで、チームパフォーマンスと信頼の持続性にどのような影響を与えるか？
• RQ4 信頼のメタ推論フレームワークは、常に人間の監視がなくても、長期的協働を改善できるか？

主な発見

• 信頼認識型計画モデルは、人間の信頼を維持または向上させつつ、ロボット行動における説明性の必要性を著しく低減した。
• 参加者らは、信頼認識型計画モデルを用いたロボットに対して、信頼モデルなしのベースラインと比較して、より高い信頼度を報告した。
• ロボットは、説明のための継続的行動を避けて、タスク効率に集中することで、より高いチーム目標パフォーマンスを達成した。
• モデルは、人間の期待と整合的であるが説明不可能な意思決定をしても、長期にわたり信頼を維持できるようにした。
• 人間の参加者が、提案されたモデルによって信頼が維持されている間は、ロボットの監視や干渉をほとんど行わなかった。
• ヒューマンサブジェクト実験により、信頼認識型計画が、より効果的で、かつ侵入性の低い長期的協働を実現できることを確認した。