[논문 리뷰] Building Second-Order Mental Models for Human-Robot Interaction

Connor Brooks, Daniel Szafır|arXiv (Cornell University)|2019. 01. 01.

Social Robot Interaction and HRI참고 문헌 51인용 수 13

한 줄 요약

이 논문은 로봇이 격자 세계 상호작용에서 인간의 행동을 관찰함으로써 인간의 두 번째 수준 심리 모델—로봇의 행동에 대한 믿음—을 추론할 수 있는 프레임워크를 제안한다. 행동 선택에 대한 베이지안 추론을 사용하여 인간의 심리 모델에 대한 정보를 성공적으로 유출함으로써, 노이즈가 있는 분류 조건에서도 타당성을 입증하였으며, 행동 기반 추론을 통한 인간-로봇 상호작용 인식 향상 잠재성을 시사한다.

ABSTRACT

The mental models that humans form of other agents---encapsulating human beliefs about agent goals, intentions, capabilities, and more---create an underlying basis for interaction. These mental models have the potential to affect both the human's decision making during the interaction and the human's subjective assessment of the interaction. In this paper, we surveyed existing methods for modeling how humans view robots, then identified a potential method for improving these estimates through inferring a human's model of a robot agent directly from their actions. Then, we conducted an online study to collect data in a grid-world environment involving humans moving an avatar past a virtual agent. Through our analysis, we demonstrated that participants' action choices leaked information about their mental models of a virtual agent. We conclude by discussing the implications of these findings and the potential for such a method to improve human-robot interactions.

연구 동기 및 목표

• 로봇과의 상호작용 중 인간의 행동 수준이 로봇에 대한 인간의 심리 모델에 대한 정보를 드러내는지 조사하기 위해.
• 관찰된 인간 행동을 기반으로 로봇이 두 번째 수준 심리 모델에 대한 베이지안 추론을 수행할 수 있는 프레임워크를 개발하기 위해.
• 유추된 심리 모델이 인간-로봇 상호작용에서 목표 추정 또는 상호작용 인식 향상에 기여하는지 평가하기 위해.
• 인간 행동을 통합함으로써 개방형 인간 심리 모델 추정의 피드백 루프를 닫는 것의 가능성을 탐색하기 위해.

제안 방법

• 저자들은 참가자가 사전 정의된 행동을 보이는 가상의 로봇 에이전트를 지나가는 아바타를 이동시키는 격자 세계 환경을 설계하였다.
• 로봇에 대한 인간의 심리 모델을 표현하기 위해 네 가지 구분되는 에이전트 모델(정지, 고정 목표, 추적, 무작위)을 정의하였다.
• 관찰된 행동 시퀀스를 바탕으로 인간의 로봇에 대한 모델에 대한 믿음을 갱신하기 위해 베이지안 추론 프레임워크를 적용하였다.
• 행동 선택을 독립적인 관측으로 간주하여 이산 행동 선택에서 인간의 잠재적 심리 모델을 확률 모델을 통해 추론하는 방법을 사용하였다.
• 행동 시퀀스를 사용해 참가자의 에이전트에 대한 진짜 심리 모델을 분류하기 위해 40명의 참가자를 대상으로 온라인 연구를 평가하였다.
• 행동 기반 추론과 목표 및 심리 모델 추정을 위한 공동 모델을 결합하여, 목표 추정 정확도에 미치는 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 로봇-에이전트 상호작용 중 인간의 행동 선택이 인간의 에이전트에 대한 심리 모델에 대한 정보를 드러내는가?
• RQ2 로봇이 관찰된 행동만으로 인간의 두 번째 수준 심리 모델(즉, 에이전트 행동에 대한 믿음)을 어느 정도 추론할 수 있는가?
• RQ3 유추된 두 번째 수준 심리 모델을 통합함으로써 인간-로봇 상호작용에서 목표 추정 정확도가 향상되는가?
• RQ4 행동 기반 추론 오류에선 고위 수준의 인지적 차이를 반영하는 체계적인 패턴이 존재하는가?

주요 결과

• I-POMDP 상태 추론 방법은 참가자의 에이전트에 대한 진짜 심리 모델을 분류하는 데에서 우연의 경우를 크게 뛰어넘었으며, 행동 선택이 인간의 심리 모델에 대한 정보를 드러냄을 입증하였다.
• 분류 정확도는 약 50%였으며, 정보는 존재하지만 행동에서의 추론은 여전히 노이즈가 많고 어려움을 겪음을 시사한다.
• 혼동 행렬 분석 결과, '안전한' 모델(정지, 고정 목표)과 '위험한' 모델(무작위, 추적) 사이에서 오류가 집중되어 있음을 확인하여, 행동이 추상적 안전성 인식을 코딩할 수 있음을 시사한다.
• 로봇을 고정된 물체로 간주하는 것과 비교해 목표 추정 정확도에 약간의 향상이 있었지만, 통계적으로 유의미한 차이는 없었다.
• 짧은 피아식 상호작용에서도 행동 기반 추론을 통한 두 번째 수준 심리 모델링의 가능성은 입증되었다.
• 연구는 인간이 로봇에 대해 어떻게 인식하는지에 대한 정보가 인간의 행동 선택에 내재되어 있으며, 에이전트의 실제 행동과는 독립적임을 입증한다.