[논문 리뷰] Trust-Aware Planning: Modeling Trust Evolution in Longitudinal Human-Robot Interaction.

Zahra Zahedi, Mudit Verma외 2명|arXiv (Cornell University)|2021. 05. 03.

Human-Automation Interaction and Safety참고 문헌 21인용 수 6

한 줄 요약

이 논문은 인간의 기대와 신뢰 수준을 로봇의 의사결정 과정에 통합함으로써 장기적인 인간-로봇 상호작용에서 인간의 신뢰를 모델링하고 유지할 수 있는 신뢰 인지 계획 프레임워크를 제안한다. 신뢰를 메타리ason링 구성요소로 간주함으로써 로봇은 비용이 많이 드는 설명가능성에 의존하는 것을 줄이며, 팀 성과를 향상시키면서도 신뢰를 유지한다. 이는 인간 참가자를 대상으로 한 실험을 통해 검증되었다.

ABSTRACT

Trust between team members is an essential requirement for any successful cooperation. Thus, engendering and maintaining the fellow team members' trust becomes a central responsibility for any member trying to not only successfully participate in the task but to ensure the team achieves its goals. The problem of trust management is particularly challenging in mixed human-robot teams where the human and the robot may have different models about the task at hand and thus may have different expectations regarding the current course of action and forcing the robot to focus on the costly explicable behavior. We propose a computational model for capturing and modulating trust in such longitudinal human-robot interaction, where the human adopts a supervisory role. In our model, the robot integrates human's trust and their expectations from the robot into its planning process to build and maintain trust over the interaction horizon. By establishing the required level of trust, the robot can focus on maximizing the team goal by eschewing explicit explanatory or explicable behavior without worrying about the human supervisor monitoring and intervening to stop behaviors they may not necessarily understand. We model this reasoning about trust levels as a meta reasoning process over individual planning tasks. We additionally validate our model through a human subject experiment.

연구 동기 및 목표

• 장기적인 인간-로봇 팀에서 인간이 로봇의 행동을 감시하는 상황에서 신뢰를 유지하는 데 도전하는 문제를 해결하기 위해.
• 계획 과정에 인간의 신뢰와 기대를 모델링함으로써 로봇이 설명가능성에 의존하는 것을 줄이기 위해.
• 지속적인 인간 감시나 간섭 없이도 팀 목표 최적화에 집중할 수 있도록 하기 위해.
• 개별 계획 작업을 통해 신뢰의 진화를 동적인 메타리ason링 과정으로 모델링하기 위해.
• 통제된 상호작용 환경에서 인간 참가자를 대상으로 한 실험을 통해 모델의 영향을 실증 평가하기 위해.

제안 방법

• 로봇은 작업 진행 상황과 행동에 대한 인간의 신뢰와 기대를 동적으로 모델링한다.
• 신뢰 수준은 계획 과정에 메타레벨 제약 조건 또는 목표로 통합된다.
• 로봇은 자신의 행동이 시간에 따라 신뢰에 어떻게 영향을 미치는지 계산 모델을 사용해 추론한다.
• 계획 과정은 작업 성과와 신뢰 유지 간의 균형을 고려한 신뢰 인지 행동 선택을 포함하도록 확장된다.
• 사용자 기대와 신뢰 상태의 변화에 적응함으로써 장기적 상호작용을 지원한다.
• 모델의 영향을 평가하기 위해 인간 참가자를 대상으로 한 실험을 수행했다.

실험 결과

연구 질문

• RQ1 장기적인 인간-로봇 상호작용 중 인간의 신뢰가 변화하는 것을 로봇이 어떻게 모델링하고 적응할 수 있는가?
• RQ2 신뢰 인지 계획은 인간-로봇 협업에서 설명가능성의 필요성을 어느 정도 줄일 수 있는가?
• RQ3 로봇 계획에 인간의 기대를 통합할 경우 팀 성과와 신뢰 지속성에 어떤 영향을 미치는가?
• RQ4 신뢰에 대한 메타리ason링 프레임워크는 지속적인 인간 감시 없이도 장기적 협력을 향상시킬 수 있는가?

주요 결과

• 신뢰 인지 계획 모델은 인간의 신뢰를 유지하거나 향상시키면서도 로봇 행동의 설명가능성 필요성을 성공적으로 줄였다.
• 참가자들은 신뢰 인지 계획 모델을 사용한 로봇일수록 기본 모델 없이 신뢰를 모델링하지 않은 경우보다 더 높은 신뢰 수준을 보고했다.
• 로봇은 설명을 자주 하지 않고도 작업 효율성에 집중함으로써 더 높은 팀 목표 성과를 달성했다.
• 모델은 로봇이 설명가능하지 않은 결정을 내려도 인간 기대와 일치할 경우 장기간에 걸쳐 지속적인 신뢰를 유지할 수 있도록 했다.
• 제안된 모델을 통해 신뢰가 유지되면 인간 참가자들이 로봇의 행동을 더 이상 밀접하게 감시하거나 간섭할 가능성이 낮아졌다.
• 인간 참가자 실험을 통해 신뢰 인지 계획이 더 효과적이고 침해 요소가 적은 장기 협업을 이끌 수 있음을 확인했다.