[논문 리뷰] Does Removing Stereotype Priming Remove Bias? A Pilot Human-Robot Interaction Study

Tobi Ogunyale, De’Aira Bryant외 1명|arXiv (Cornell University)|2018. 07. 03.

Social Robot Interaction and HRI참고 문헌 10인용 수 14

한 줄 요약

이 pilot 연구는 인간-로봇 상호작용에서 스테레오타입 프라밍을 제거하면 정서 인지에 대한 편향이 제거되는지 조사한다. 198명의 참가자와 피부 색상이 다를 뿐이지 그 외로는 동일한 두 대의 Darwin-Mini 로봇을 사용한 대립군 설계를 통해, 피부 색상에 따라 정서 분류 정확도나 강도 평가에 유의미한 차이가 없음을 발견하여, 프라밍이 없을 경우 사용자가 인식을 인식 기능적 특성에 기반하여 평가함을 시사한다.

ABSTRACT

Robots capable of participating in complex social interactions have shown great potential in a variety of applications. As these robots grow more popular, it is essential to continuously evaluate the dynamics of the human-robot relationship. One factor shown to have potential impacts on this critical relationship is the human projection of stereotypes onto social robots, a practice that is implicitly known to effect both developers and users of this technology. As such, in this research, we wished to investigate the difference in participants' perceptions of the robot interaction if we removed stereotype priming. This has not yet been a common practice in similar studies. Given the stereotypes of emotions among ethnic groups, especially in the U.S., this study specifically sought to investigate the impact that robot "skin color" could potentially have on the human perception of a robot's emotional expressive behavior. A between-subject experiment with 198 individuals was conducted. The results showed no significant differences in the overall emotion classification or intensity ratings for the different robot skin colors. These results lend credence to our hypothesis that when individuals are not primed with information related to human stereotypes, robots are evaluated based on functional attributes versus stereotypical attributes. This provides some confidence that robots, if designed correctly, can potentially be used as a tool to override stereotype-based biases associated with human behavior.

연구 동기 및 목표

• 스테레오타입 프라밍이 없을 경우 인간이 사회적 로봇을 인지하는 데서 편향이 감소하는지 조사하기.
• 참가자가 인종적 스테레오타입으로 프라밍되지 않은 상태에서 로봇의 피부 색상이 정서 인지에 어떤 영향을 미치는지 탐구하기.
• 성별과 민족 배경이 비프라밍 조건 하에서 인간-로봇 상호작용에서 정서 인지에 미치는 조절 효과를 규명하기.
• 혼란 요인을 최소화하는 설계를 통해 향후 HRI 연구에 방법론적 통찰을 기여하기.
• 프라밍이 없을 경우 로봇이 인간의 스테레오타입 기반 편향을 초월할 수 있는 도구로 간주될 수 있는지 탐색하기.

제안 방법

• 198명의 참가자를 랜덤으로 배정하여 흰 피부색 또는 검은 피부색을 가진 Darwin-Mini 로봇과 상호작용하도록 한 대립군 실험을 수행했다.
• 로봇이 표준화된 정서 표현(행복 및 분노)을 연기하여 조건 간 정서 인지 수준을 평가했다.
• 참가자 인구통계적 특성에 따라 각 정서 표현에 대한 정서 분류 정확도와 강도 평가를 수집했다.
• 남성과 여성 참가자 간, 백인과 비백인 참가자 간 정서 인지를 비교하기 위해 독립표본 t-검정을 적용했다.
• 성별 및 민족 배경에 따른 정서 인지의 잠재적 조절 효과를 탐지하기 위해 데이터를 분석하였으며, 비백인 집단의 표본 크기가 작다는 점을 고려하였다.
• 인종적 또는 민족적 스테레오타입을 활성화하지 않도록 비프라밍 실험 설계를 채택했다.

실험 결과

연구 질문

• RQ1 스테레오타입 프라밍을 제거하면 서로 다른 피부 색상의 로봇 간 정서 인지의 차이가 사라지는가?
• RQ2 비프라밍 조건 하에서 성별 차이가 인간-로봇 상호작용에서 정서 표현 인지에 어떤 영향을 미치는가?
• RQ3 민족 정체성이 정서 강도 및 정확도 인지에 어느 정도 조절 효과를 가지는가?
• RQ4 프라밍이 없을 경우 로봇이 사회적 스테레오타입이 아닌 기능적 특성에 기반해 인식될 수 있는가?
• RQ5 참가자의 민족 배경이 사회적으로 표현력 있는 로봇의 정서 분류 정확도와 강도 평가에 어떤 역할을 하는가?

주요 결과

• 모든 참가자 집단에서 흰 피부색 로봇과 검은 피부색 로봇 간 정서 분류 정확도에 유의미한 차이가 없었다.
• 남성 참가자들은 흰 피부색 로봇의 행복 표현을 50% 정확도로, 검은 피부색 로봇의 경우 49.2%로 분류했으며, 여성 참가자들은 각각 50%와 52.6%를 기록했다.
• 분노 표현의 경우 남성 참가자들은 흰 피부색 로봇을 57.9%로, 검은 피부색 로봇을 65.8%로 분류했고, 여성 참가자들은 각각 60%와 61.8%를 기록했으며, 통계적으로 유의미한 차이는 없었다.
• 다행히도 행복 및 분노 표현의 강도 평가에서 남성과 여성 참가자 간 또는 로봇의 피부 색상 간에 유의미한 차이가 없었다.
• 민족 집단 간 비교에서 백인과 아프리카계 미국인 참가자들은 분노 표현을 각각 61.7%와 64.3%로 유사한 정확도로 인식했으며, 정서 인지에 있어 유의미한 차이가 없었다.
• 유일하게 통계적으로 유의미한 차이가 발견된 것은 강도 평가였다: 히스패닉 또는 라티노계 참가자들은 검은 피부색 로봇의 분노 표현을 백인 참가자들보다 더 강하게 평가했지만, 이 결과는 비백인 집단의 표본 크기가 작아 제한적이다.