[论文解读] Trust-Aware Planning: Modeling Trust Evolution in Longitudinal Human-Robot Interaction.

Zahra Zahedi, Mudit Verma+2 more|arXiv (Cornell University)|May 3, 2021

Human-Automation Interaction and Safety参考文献 21被引用 6

一句话总结

本文提出了一种信任感知的规划框架，通过将人类期望和信任水平整合到机器人的决策过程中，使机器人能够在纵向人机交互中建模并长期维持人类信任。通过将信任视为一种元推理组件，机器人减少了对高成本可解释性的依赖，从而在维持信任的同时提升团队表现，该方法通过一项人类被试实验得到验证。

ABSTRACT

Trust between team members is an essential requirement for any successful cooperation. Thus, engendering and maintaining the fellow team members' trust becomes a central responsibility for any member trying to not only successfully participate in the task but to ensure the team achieves its goals. The problem of trust management is particularly challenging in mixed human-robot teams where the human and the robot may have different models about the task at hand and thus may have different expectations regarding the current course of action and forcing the robot to focus on the costly explicable behavior. We propose a computational model for capturing and modulating trust in such longitudinal human-robot interaction, where the human adopts a supervisory role. In our model, the robot integrates human's trust and their expectations from the robot into its planning process to build and maintain trust over the interaction horizon. By establishing the required level of trust, the robot can focus on maximizing the team goal by eschewing explicit explanatory or explicable behavior without worrying about the human supervisor monitoring and intervening to stop behaviors they may not necessarily understand. We model this reasoning about trust levels as a meta reasoning process over individual planning tasks. We additionally validate our model through a human subject experiment.

研究动机与目标

• 解决在人类监督机器人行为的长期人机团队中维持信任的挑战。
• 通过将人类信任和期望建模为规划过程的一部分，减少机器人对可解释性的依赖。
• 使机器人能够专注于团队目标最大化，而无需持续的人类监控或干预。
• 将信任演化建模为对单个规划任务的动态元推理过程。
• 通过在受控交互环境中的人类参与实验，对模型进行实证评估。

提出的方法

• 机器人维护一个关于任务进展和行为的人类信任与期望的动态模型。
• 信任水平被作为元层次约束或目标整合进规划过程。
• 机器人使用计算模型来推理其行为如何随时间影响信任。
• 规划过程被扩展以包含兼顾任务表现与信任维护的信任感知动作选择。
• 该模型通过适应人类期望和信任状态的变化，支持长期交互。
• 通过一项人类被试实验，评估了该模型对信任和任务表现的影响。

实验结果

研究问题

• RQ1 机器人如何在长期人机交互中建模并适应不断演变的人类信任？
• RQ2 信任感知规划在多大程度上可以减少人机协作中对可解释性的需求？
• RQ3 将人类期望整合到机器人规划中，如何影响团队表现和信任的可持续性？
• RQ4 一种用于信任的元推理框架能否在无需持续人类监督的情况下提升长期合作？

主要发现

• 信任感知规划模型成功减少了机器人行为对可解释性的依赖，同时维持或提升了人类信任。
• 与缺乏信任建模的基线相比，参与者在使用信任感知规划模型的机器人时报告了更高的信任水平。
• 机器人通过专注于任务效率而非持续解释，实现了更高的团队目标表现。
• 该模型即使在机器人做出非可解释决策但与人类期望一致的情况下，也能实现长期信任的维持。
• 当通过所提模型维持信任时，人类被试更少干预或密切监控机器人。
• 人类被试实验证实，信任感知规划能带来更高效且侵入性更小的长期协作。