[논문 리뷰] Modeling and Predicting Trust Dynamics in Human-Robot Teaming: A Bayesian Inference Approach

Yaohui Guo, X. Jessie Yang|arXiv (Cornell University)|2020. 07. 26.

Human-Automation Interaction and Safety참고 문헌 33인용 수 7

한 줄 요약

이 논문은 성과 기록을 기반으로 인간의 로봇에 대한 신뢰를 동적으로 추정하는 베이지안 추론 기반의 신뢰 예측 모델을 제안한다. 설문 조사에 의존하지 않고, 신뢰를 베타 분포로 표현하며, 베이지안 업데이트를 통해 모수를 학습하여 RMSE 0.072를 달성한다. 이는 기존 방법보다 뚜렷이 뛰어나며, 합리적인 베이지안 의사결정자, 진동하는 신뢰를 가지는 이들, 지속적으로 낮은 신뢰를 가지는 이들이라는 세 가지의 독립적인 신뢰 역학을 포착한다.

ABSTRACT

Trust in automation, or more recently trust in autonomy, has received extensive research attention in the past two decades. The majority of prior literature adopted a "snapshot" view of trust and typically evaluated trust through questionnaires administered at the end of an experiment. This "snapshot" view, however, does not acknowledge that trust is a time-variant variable that can strengthen or decay over time. To fill the research gap, the present study aims to model trust dynamics when a human interacts with a robotic agent over time. The underlying premise of the study is that by interacting with a robotic agent and observing its performance over time, a rational human agent will update his/her trust in the robotic agent accordingly. Based on this premise, we develop a personalized trust prediction model based on Beta distribution and learn its parameters using Bayesian inference. Our proposed model adheres to three major properties of trust dynamics reported in prior empirical studies. We tested the proposed method using an existing dataset involving 39 human participants interacting with four drones in a simulated surveillance mission. The proposed method obtained a Root Mean Square Error (RMSE) of 0.072, significantly outperforming existing prediction methods. Moreover, we identified three distinctive types of trust dynamics, the Bayesian decision maker, the oscillator, and the disbeliever, respectively. This prediction model can be used for the design of individualized and adaptive technologies.

연구 동기 및 목표

• 인간-로봇 상호작용 연구에서 정적이고 스냅샷 기반의 신뢰 측정 방식의 한계를 해결하기 위해.
• 반복적인 상호작용을 통해 영향을 받는 동적이고 시간에 따라 변화하는 변수로 신뢰를 모델링하기 위해.
• 정기적인 인간 보고나 생리적 데이터 수집이 필요 없는 개인 맞춤형 실시간 신뢰 예측 모델을 개발하기 위해.
• 신뢰 역학의 경험적으로 관찰된 특성인 지속성, 부정적 사건에 대한 비대칭 민감도, 시간에 따른 안정화를 모델이 반영하도록 하기 위해.
• 로봇 성과에 대응하여 인간의 신뢰 행동 유형을 식별하고 특성화하기 위해.

제안 방법

• 로봇 성과 기록을 바탕으로 베이지안 추론을 통해 업데이트되는 매개수를 가진 베타 분포를 사용해 인간의 신뢰를 모델링하기 위해.
• 4架의 드론과 상호작용한 39명의 참가자로 구성된 학습 데이터셋에서 사전 매개수 분포를 학습하기 위해.
• 성과 결과(성공/실패)를 증거로 사용하여 각 상호작용 단계에서 신뢰 분포를 업데이트하기 위해.
• 신뢰의 진화가 이전 신뢰와 현재 성과에만 의존한다는 조건부 독립 원칙을 적용하기 위해.
• 예측 오차와 평균 로그 신뢰를 특성으로 사용하여 참가자를 클러스터링하여 세 가지의 독립적인 행동 유형을 식별하기 위해.
• 신뢰 역학의 세 가지 경험적으로 검증된 특성(지속성, 부정적 경험의 강한 영향, 시간에 따른 안정화)을 모델 구조에 통합하여 일반화 가능성과 설명 가능성 확보하기 위해.

실험 결과

연구 질문

• RQ1 로봇에 대한 신뢰는 정적 스냅샷이 아니라 동적 과정으로 어떻게 모델링할 수 있는가?
• RQ2 반복적인 인간-로봇 상호작용 중 인간의 신뢰 진화에서 나타나는 주요 행동 패턴은 무엇인가?
• RQ3 성과 기록만을 사용하고 인간의 입력 없이 실시간으로 신뢰 수준을 정확하게 예측할 수 있는 베이지안 신뢰 모델은 가능한가?
• RQ4 다른 개인들은 신뢰 역학에서 어떻게 다를 수 있으며, 이러한 차이는 체계적으로 분류될 수 있는가?
• RQ5 정확도와 일반화 능력 측면에서 기존의 신뢰 예측 방법에 비해 제안된 모델이 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• 제안된 베이지안 신뢰 모델은 테스트 데이터셋에서 루트 평균 제곱 오차(RMSE) 0.072를 달성하여, Lee & See (1992) 및 Xu et al. (2015)와 같은 기존 모델보다 뚜렷이 뛰어난 성능을 보였다.
• 모델은 합리적인 베이지안 의사결정자, 진동하는 신뢰를 가지는 이들, 지속적으로 낮은 신뢰를 가지는 이들이라는 세 가지의 독립적인 신뢰 역학을 성공적으로 포착했다.
• 모델의 구조는 세 가지 경험적으로 검증된 신뢰 역학 특성(이전 신뢰의 지속성, 부정적 경험의 더 큰 영향, 시간에 따른 안정화)을 충족시켰다.
• 모델은 생리적 데이터 수집이 필요 없어 실생활 응용에서의 구현 가능성과 윤리적 수용 가능성을 높였다.
• 예측 오차와 평균 로그 신뢰를 기반으로 한 클러스터링 분석은 명확한 행동 그룹을 드러내었으며, 이는 신뢰 형성에서 개인 간의 차이를 시사했다.
• 모델은 실시간 개인 맞춤형 신뢰 예측을 가능하게 하여, 신뢰 변화에 대응할 수 있는 적응형 로봇 시스템 설계를 지원한다.