[논문 리뷰] The dynamic nature of trust: Trust in Human-Robot Interaction revisited

Jimin Rhim, Sonya S. Kwak외 2명|arXiv (Cornell University)|2023. 03. 08.

Human-Automation Interaction and SafetyPsychology인용 수 3

한 줄 요약

이 논문은 인간-로봇 신뢰를 정적인 상태가 아니라 동적인 변화 과정으로 재고할 것을 주장한다. 특히 사회적 보조 로봇(SARs) 분야에서 그러한 접근이 중요하다. 인간-자동화 신뢰 문헌을 바탕으로 하되, 사회적 에이전트로 확장하여 인간-로봇 상호작용(HRI)에서 신뢰가 어떻게 형성되고 변화하며 유지되는지를 장기적 관점에서 이해할 것을 제안한다. 이는 보다 신뢰할 수 있고 협업적인 로봇을 설계하기 위해 이러한 역동성을 고려한 설계 접근을 지지한다.

ABSTRACT

The role of robots is expanding from tool to collaborator. Socially assistive robots (SARs) are an example of collaborative robots that assist humans in the real world. As robots enter our social sphere, unforeseen risks occur during human-robot interaction (HRI), as everyday human space is full of uncertainties. Risk introduces an element of trust, so understanding human trust in the robot is imperative to initiate and maintain interactions with robots over time. While many scholars have investigated the issue of human-robot trust, a significant portion of that discussion is rooted in the human-automation interaction literature. As robots are no longer mere instruments, but social agents that co-exist with humans, we need a new lens to investigate the longitudinal dynamic nature of trust in HRI. In this position paper, we contend that focusing on the dynamic nature of trust as a new inquiry will help us better design trustworthy robots.

연구 동기 및 목표

• 로봇이 도구에서 사회적 협업자로 전환함에 따라 인간-로봇 상호작용(HRI)에서 정적인 신뢰 모델의 한계를 해결하기 위해.
• 실제 HRI에서 내재된 위험과 불확실성으로 인해, 신뢰를 유동적이고 변화하는 개념으로 이해할 필요성이 있다는 것을 부각하기 위해.
• 현재 인간-자동화 상호작용에 기반한 신뢰 모델이 인간과 공존하는 사회적 보조 로봇(SARs)의 특성을 충분히 반영하지 못하므로, 이를 주장하기 위해.
• 로봇 설계에 더 적응적이고 신뢰할 수 있는 방식으로 영향을 주기 위해, HRI에서 신뢰의 장기적이고 역동적인 성격을 중심으로 한 새로운 연구 시각을 제안하기 위해.
• 신뢰를 한 번의 결정이 아니라 반복적 상호작용과 사회적 신호에 의해 영향을 받는 지속적이고 맥락에 민감한 과정으로 보는 것을 주장하기 위해.

제안 방법

• 장기적 관점에서 HRI의 신뢰를 재구성하기 위해 개념적이고 위치 기반의 논문 접근을 채택한다.
• 인간-자동화 신뢰 문헌의 통찰을 바탕으로 하되, 사회적 에이전트와 협업 로봇의 맥락에서 재해석한다.
• 신뢰를 고정된 특성가 아니라 반복적 상호작용을 통해 변화하는 과정으로 연구할 필요성을 강조한다.
• 신뢰의 역동성을 행동적 신호, 투명성, 인식된 의도에 따라 반응하는 방식으로 모델링할 것을 제안한다.
• 신뢰의 사회적 및 심리적 차원, 예를 들어 신뢰성, 예측 가능성, 인식된 능력 등을 동적 프레임워크에 통합한다.
• 미래 연구는 실세계 환경에서 장기적 데이터 수집과 행동 분석을 통해 신뢰 변화를 추적할 것을 촉구한다.

실험 결과

연구 질문

• RQ1 실세계 인간-로봇 상호작용에서 로봇에 대한 신뢰는 시간이 지남에 따라 어떻게 변화하는가?
• RQ2 로봇에 대한 인간의 신뢰가 동적으로 변화하는 데 기여하는 요소는 무엇인가?
• RQ3 사회적 신호, 투명성, 인식된 의도는 장기적 관점에서 신뢰 형성에 어떻게 영향을 미치는가?
• RQ4 현재의 정적 신뢰 모델은 협업적 HRI에서 신뢰의 복잡성을 충분히 반영하지 못하는가?
• RQ5 인간-로봇 협업에서 신뢰의 동적이고 적응적인 성격을 뒷받침하기 위해 필요한 설계 원칙은 무엇인가?

주요 결과

• 로봇에 대한 신뢰는 정적인 상태가 아니라 반복적 상호작용과 맥락적 요인에 의해 영향을 받는 동적인 변화 과정이다.
• 로봇이 도구에서 사회적 협업자로 전환됨에 따라 정적 모델에서 장기적 모델로의 전환 필요성이 증가한다.
• 인간-자동화 상호작용에 기반한 기존의 신뢰 프레임워크는 SARs의 사회적 및 관계적 차원의 신뢰를 충분히 반영하지 못한다.
• 장기적 신뢰 역동성은 인식된 신뢰성, 투명성, 의도성에 의해 영향을 받으며, 이는 로봇의 행동에 따라 시간이 지남에 따라 변화한다.
• 신뢰할 수 있는 로봇을 설계하기 위해서는 초보적 신뢰를 확보하는 것 외에도, 신뢰의 변동성을 예측하고 대응할 수 있어야 한다.
• 미래 연구는 실세계 HRI 맥락에서 신뢰가 어떻게 형성되며, 약화되거나 강화되는지를 이해하기 위해 장기적 데이터 수집과 분석을 우선시해야 한다.