[논문 리뷰] Improved Trust in Human-Robot Collaboration with ChatGPT

Yang Ye, Hengxu You외 1명|arXiv (Cornell University)|2023. 04. 25.

Artificial Intelligence in Healthcare and EducationMedicine인용 수 3

한 줄 요약

이 논문은 OpenAI의 ChatGPT를 통합하여 자연어 상호작용을 가능하게 하는 7-도전도 로봇 암과의 인간-로봇 협업 시스템인 RoboGPT를 제안한다. 이는 더 나은 의사소통을 통해 인간의 신뢰를 크게 향상시킨다. 인간 대상 실험을 통해 ChatGPT 기반 상호작용이 도구 수거 및 배치 작업 중 더 직관적이고 맥락 인식 능력이 있으며 반응성이 높은 로봇 행동을 가능하게 하여 신뢰를 증가시켰음을 입증하였다.

ABSTRACT

Human robot collaboration is becoming increasingly important as robots become more involved in various aspects of human life in the era of Artificial Intelligence. However, the issue of human operators trust in robots remains a significant concern, primarily due to the lack of adequate semantic understanding and communication between humans and robots. The emergence of Large Language Models (LLMs), such as ChatGPT, provides an opportunity to develop an interactive, communicative, and robust human-robot collaboration approach. This paper explores the impact of ChatGPT on trust in a human-robot collaboration assembly task. This study designs a robot control system called RoboGPT using ChatGPT to control a 7-degree-of-freedom robot arm to help human operators fetch, and place tools, while human operators can communicate with and control the robot arm using natural language. A human-subject experiment showed that incorporating ChatGPT in robots significantly increased trust in human-robot collaboration, which can be attributed to the robot's ability to communicate more effectively with humans. Furthermore, ChatGPT ability to understand the nuances of human language and respond appropriately helps to build a more natural and intuitive human-robot interaction. The findings of this study have significant implications for the development of human-robot collaboration systems.

연구 동기 및 목표

• 낮은 인간의 신뢰도가 인간-로봇 협업에서 악성 의미 이해 및 소통 부족으로 인해 발생하는 문제를 해결하기 위해.
• 대규모 언어 모델(Large Language Models, LLM)이 더 자연스럽고 맥락 인식 능력 있는 인간-로봇 상호작용을 통해 신뢰를 향상시킬 수 있는지 조사하기 위해.
• 로봇 조작 작업을 위한 자연어 명령어를 가능하게 하는 제어 시스템인 RoboGPT를 설계 및 구현하기 위해.
• LLM 기반 소통이 인간-로봇 협업 환경에서 사용자 신뢰, 신뢰성 인식, 작업 성과에 미치는 영향을 평가하기 위해.
• 실시간, 임무 중심 환경에서 LLM을 사용하여 인간과 로봇 간의 소통 격차를 메울 수 있는 가능성을 입증하기 위해.

제안 방법

• 7도전도 로봇 암을 위한 자연어 인터페이스로 OpenAI의 ChatGPT를 통합한 제어 시스템인 RoboGPT를 개발하였다.
• 사용자가 '스레드드라이버를 가져와' 또는 '렌치를 테이블 위에 놓아'와 같은 자연어 명령어를 통해 로봇 동작을 제어할 수 있도록 기능을 제공하였다.
• 자연어를 실행 가능한 로봇 동작 명령어로 변환하는 로봇 제어 파이프라인에 LLM을 통합하였다.
• 로봇이 행동을 자연어로 확인함으로써 투명성과 사용자 인지도를 향상시키는 이원적 소통 루프를 설계하였다.
• 참가자가 자연어를 통해 로봇과 상호작용하는 인간 대상 실험을 실시하여 신뢰도와 성과를 측정하였다.
• 표준화된 신뢰 평가 척도와 작업 완료 지표를 사용하여 ChatGPT 통합의 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 ChatGPT와 같은 대규모 언어 모델을 통합할 경우 인간-로봇 협업에서 인간의 신뢰도에 어떤 영향을 미치는가?
• RQ2 자연어 상호작용은 로봇 시스템의 신뢰성 및 투명성 인식을 어느 정도 향상시키는가?
• RQ3 LLM 기반 로봇은 실시간으로 복잡하거나 모호하거나 맥락에 따라 달라지는 인간의 지시를 이해하고 반응할 수 있는가?
• RQ4 인간과 로봇 간의 소통 품질은 작업 성과와 사용자 만족도에 어떤 영향을 미치는가?
• RQ5 맥락 이해 및 일관된 응답이 인간-로봇 상호작용 중 신뢰 형성에 어떤 역할을 하는가?

주요 결과

• 표준화된 신뢰 평가 척도를 통해 ChatGPT 통합이 비-LLM 기반 시스템에 비해 인간의 신뢰도를 뚜렷이 향상시켰음을 확인하였다.
• 로봇이 행동을 자연어로 확인하고 결정을 설명함으로써 참가자들은 더 높은 신뢰성과 투명성 인식을 보고하였다.
• 로봇이 모호하거나 맥락에 따라 달라지는 언어를 이해하고 반응할 수 있었기에 사용자의 자신감이 향상되었고, 분노감이 감소하였다.
• 자연어 입력만으로도 도구 수거 및 배치와 같은 실시간 작업 수행에서 뛰어난 성능을 보였다.
• LLM 기반 로봇과의 자연어 소통을 통해 사용자는 상호작용이 더 직관적이고 인지 부담이 적다고 느꼈다.
• 연구를 통해 LLM이 인간-로봇 팀에서 의미 이해 및 소통을 향상시키는 효과적인 중개자 역할을 할 수 있음을 확인하였다.