[论文解读] Modeling and Predicting Trust Dynamics in Human-Robot Teaming: A Bayesian Inference Approach

Yaohui Guo, X. Jessie Yang|arXiv (Cornell University)|Jul 26, 2020

Human-Automation Interaction and Safety参考文献 33被引用 7

一句话总结

该论文提出了一种基于贝叶斯推断的信任预测模型，通过机器人性能历史动态估计人类对机器人的信任，避免依赖问卷调查。该模型使用Beta分布表示信任，并通过贝叶斯更新学习参数，实现了0.072的RMSE——显著优于现有方法——同时捕捉了三种不同的信任动态：理性贝叶斯决策者、振荡型信任者和不相信者。

ABSTRACT

Trust in automation, or more recently trust in autonomy, has received extensive research attention in the past two decades. The majority of prior literature adopted a "snapshot" view of trust and typically evaluated trust through questionnaires administered at the end of an experiment. This "snapshot" view, however, does not acknowledge that trust is a time-variant variable that can strengthen or decay over time. To fill the research gap, the present study aims to model trust dynamics when a human interacts with a robotic agent over time. The underlying premise of the study is that by interacting with a robotic agent and observing its performance over time, a rational human agent will update his/her trust in the robotic agent accordingly. Based on this premise, we develop a personalized trust prediction model based on Beta distribution and learn its parameters using Bayesian inference. Our proposed model adheres to three major properties of trust dynamics reported in prior empirical studies. We tested the proposed method using an existing dataset involving 39 human participants interacting with four drones in a simulated surveillance mission. The proposed method obtained a Root Mean Square Error (RMSE) of 0.072, significantly outperforming existing prediction methods. Moreover, we identified three distinctive types of trust dynamics, the Bayesian decision maker, the oscillator, and the disbeliever, respectively. This prediction model can be used for the design of individualized and adaptive technologies.

研究动机与目标

• 解决人机交互研究中静态、快照式信任测量的局限性。
• 将信任建模为受与机器人代理重复交互影响的动态、时间演化变量。
• 开发一种个性化、实时的信任预测模型，无需定期的人工报告或生理数据采集。
• 确保模型反映人类信任动态的经验观察特性：持久性、对负面事件的非对称敏感性以及随时间的稳定化。
• 识别并表征人类在机器人性能影响下的不同信任行为类型。

提出的方法

• 使用Beta分布建模人类信任，并基于机器人性能历史通过贝叶斯推断更新参数。
• 从39名参与者与四架无人机交互的训练数据集中学习先验参数分布。
• 将性能结果（成功/失败）作为证据，在每次交互步骤中更新信任分布。
• 应用条件独立性原则，假设信任演化仅依赖于先前信任和当前性能。
• 基于预测误差和平均对数信任作为特征，对参与者进行聚类，识别出三种不同的行为类型。
• 通过将三种经验证的人类信任动态特性嵌入模型结构，确保模型的泛化能力和可解释性。

实验结果

研究问题

• RQ1 如何将对机器人代理的信任建模为一个动态过程，而非静态快照？
• RQ2 在重复的人机交互中，人类信任演化的关键行为模式是什么？
• RQ3 能否仅使用性能历史而无需人工输入，构建一个准确的实时贝叶斯信任模型？
• RQ4 不同个体在信任动态上存在何种差异，能否系统性地进行分类？
• RQ5 与现有信任预测方法相比，所提出的模型在准确性和泛化能力方面有多大的提升？

主要发现

• 所提出的贝叶斯信任模型在测试数据集上实现了0.072的均方根误差（RMSE），显著优于现有模型，如Lee & See（1992）和Xu et al.（2015）。
• 该模型成功捕捉了三种不同的信任动态：理性贝叶斯决策者、信任波动的振荡型信任者，以及持续低信任的不相信者。
• 该模型的结构符合三项经验证的人类信任动态特性：先前信任的持久性、负面经历的更强影响，以及随时间的稳定化。
• 该模型无需采集生理数据，提升了其在实际应用中的可行性与伦理可接受性。
• 基于预测误差和平均对数信任的聚类分析揭示了清晰的行为分组，表明信任形成存在个体差异。
• 该模型实现了实时、个性化的信任预测，支持设计能够响应信任变化的自适应机器人系统。