[论文解读] Effects of Faults, Experience, and Personality on Trust in a Robot Co-Worker

Satragni Sarkar, Dejanira Araiza-Illan+1 more|arXiv (Cornell University)|Mar 7, 2017

AI in Service Interactions参考文献 25被引用 23

一句话总结

本研究通过让参与者在存在故障和无故障条件下与真实机器人协作组装和拆卸实物，调查了在协作制造环境中对机器人的信任感。尽管有预期，故障的存在对感知到的可信度、能力或亲和力影响甚微；相反，参与者的先前经验与人格特质在工业协作机器人工作场景中对信任感知产生了微小但显著的影响。

ABSTRACT

To design trustworthy robots, we need to understand the impact factors of trust: people's attitudes, experience, and characteristics; the robot's physical design, reliability, and performance; a task's specification and the circumstances under which it is to be performed, e.g. at leisure or under time pressure. As robots are used for a wide variety of tasks and applications, robot designers ought to be provided with evidence and guidance, to inform their decisions to achieve safe, trustworthy and efficient human-robot interactions. In this work, the impact factors of trust in a collaborative manufacturing scenario are studied by conducting an experiment with a real robot and participants where a physical object was assembled and then disassembled. Objective and subjective measures were employed to evaluate the development of trust, under faulty and non-faulty robot conditions, and the effect of previous experience with robots, and personality traits. Our findings highlight differences when compared to other, more social, scenarios with robotic assistants (such as a home care assistant), in that the condition (faulty or not) does not have a significant impact on the human's perception of the robot in terms of human-likeliness, likeability, trustworthiness, and even competence. However, personality and previous experience do have an effect on how the robot is perceived by participants, even though that is relatively small.

研究动机与目标

• 理解机器人故障对协作制造环境中人类信任感的影响。
• 研究用户与机器人互动的先前经验如何影响工业协作工作场景中的信任感知。
• 评估人格特质在塑造人类对机器人可信度与亲和力感知中的作用。
• 评估人类-机器人协作任务中客观与主观信任度测量是否一致。
• 为共享工作空间中可信且易被人类接受的工业机器人提供设计指导。

提出的方法

• 在协作装配与拆卸任务中，使用真实机器人（Baxter）与人类参与者开展受控实验。
• 采用被试内设计，参与者需在存在故障与无故障两种条件下与机器人互动。
• 通过实验前与实验后问卷测量主观信任度、感知拟人化程度、亲和力及人格特质（使用经验证量表）。
• 收集客观性能数据，包括任务完成时间与错误率，以与主观信任度测量进行关联分析。
• 分析故障类型（轻微、非灾难性）、先前技术经验及人格特质（使用TIPI）对信任结果的影响。
• 采用统计分析检验故障存在、经验与人格对信任感知影响的假设。

实验结果

研究问题

• RQ1 不同类型的机器人故障在协作制造任务中如何影响人类对机器人可信度、能力与安全性的感知？
• RQ2 用户与机器人互动的先前经验在物理装配任务中在多大程度上影响对机器人同事的信任感？
• RQ3 个体人格特质（如宜人性、外向性）如何影响对协作机器人的信任感与亲和力？
• RQ4 故障的存在是否显著改变参与者在任务执行中的表现或对机器人可靠性与亲和力的主观评价？
• RQ5 客观任务性能指标与主观信任度测量在人机协作中如何相关？

主要发现

• 机器人存在故障并未显著影响参与者对机器人可信度、能力、安全性或亲和力的感知。
• 参与者整体上对机器人表现出高度信任与亲和力，即使机器人在任务中出现轻微错误。
• 先前技术经验对参与者感知机器人可信度与能力有微小但统计显著的影响。
• 人格特质，特别是与宜人性和开放性相关的特质，对机器人拟人化与亲和力感知产生微小但可测量的影响。
• 客观性能指标（任务完成时间与错误率）在故障与无故障条件下无显著差异，表明对任务执行影响甚微。
• 故障影响不显著的原因可能是任务本身难度较高、故障表现较隐蔽，且缺乏预先培训，这些因素可能掩盖了潜在的信任下降。