[论文解读] Improved Trust in Human-Robot Collaboration with ChatGPT

Yang Ye, Hengxu You+1 more|arXiv (Cornell University)|Apr 25, 2023

Artificial Intelligence in Healthcare and EducationMedicine被引用 3

一句话总结

本文提出 RoboGPT，一种人机协作系统，通过集成 OpenAI 的 ChatGPT 实现与七自由度机械臂的自然语言交互，显著提升了人类的信任度。一项真人受试实验表明，借助 ChatGPT 的交互方式使机器人在工具取放任务中表现出更直观、更具上下文感知性且响应更及时的行为，从而提升了人类信任度。

ABSTRACT

Human robot collaboration is becoming increasingly important as robots become more involved in various aspects of human life in the era of Artificial Intelligence. However, the issue of human operators trust in robots remains a significant concern, primarily due to the lack of adequate semantic understanding and communication between humans and robots. The emergence of Large Language Models (LLMs), such as ChatGPT, provides an opportunity to develop an interactive, communicative, and robust human-robot collaboration approach. This paper explores the impact of ChatGPT on trust in a human-robot collaboration assembly task. This study designs a robot control system called RoboGPT using ChatGPT to control a 7-degree-of-freedom robot arm to help human operators fetch, and place tools, while human operators can communicate with and control the robot arm using natural language. A human-subject experiment showed that incorporating ChatGPT in robots significantly increased trust in human-robot collaboration, which can be attributed to the robot's ability to communicate more effectively with humans. Furthermore, ChatGPT ability to understand the nuances of human language and respond appropriately helps to build a more natural and intuitive human-robot interaction. The findings of this study have significant implications for the development of human-robot collaboration systems.

研究动机与目标

• 为解决由于语义理解与沟通能力不足，导致人机协作中人类信任度低的问题。
• 探究类似 ChatGPT 的大语言模型是否可通过更自然、更具上下文感知性的人机交互方式提升信任度。
• 设计并实现一种名为 RoboGPT 的机器人控制系统，支持通过自然语言指令完成机器人操作任务。
• 评估大语言模型驱动的沟通方式对用户信任度、感知可靠性及任务表现的影响，研究场景为人机协作环境。
• 展示利用大语言模型在实时、任务导向的环境中弥合人机之间沟通鸿沟的可行性。

提出的方法

• 开发了 RoboGPT，一种将 OpenAI 的 ChatGPT 作为自然语言接口的控制系统，用于七自由度机械臂。
• 使人类操作员能够通过自然语言指令控制机器人动作，例如“取来螺丝刀”或“把扳手放到桌上”。
• 将大语言模型与机器人控制流程集成，实现将自然语言转换为可执行的机器人运动指令。
• 设计双向沟通回路，使机器人通过自然语言确认动作，提升透明度与用户感知。
• 开展真人受试实验，参与者通过自然语言与机器人交互，测量信任度与任务表现。
• 采用标准化的信任评估量表与任务完成度指标，评估 ChatGPT 集成的影响。

实验结果

研究问题

• RQ1 将类似 ChatGPT 的大语言模型集成到系统中，如何影响人机协作中的人类信任度？
• RQ2 自然语言交互在多大程度上提升了机器人系统的感知可靠性与透明度？
• RQ3 基于大语言模型的机器人能否实时理解并响应复杂、模糊或依赖上下文的人类指令？
• RQ4 人机之间沟通质量如何影响任务表现与用户满意度？
• RQ5 在人机交互过程中，上下文理解能力与响应一致性在建立信任方面起到何种作用？

主要发现

• 与非大语言模型系统相比，ChatGPT 的集成显著提升了人类对机器人的信任度，该结果通过标准化的信任评估量表得到验证。
• 参与者报告称，当机器人使用自然语言确认动作并解释决策时，其感知可靠性与透明度更高。
• 机器人对模糊或依赖上下文语言的理解与响应能力，提升了用户信心并减少了挫败感。
• 该系统在仅依赖自然语言输入的情况下，实现了在实时任务执行中的稳健表现，包括工具取放等操作。
• 用户在与大语言模型驱动的机器人进行自然语言交互时，认为交互更直观，认知负荷更低。
• 本研究证实，大语言模型可作为有效中介，显著提升人机团队中的语义理解与沟通能力。