[论文解读] Does Removing Stereotype Priming Remove Bias? A Pilot Human-Robot Interaction Study

Tobi Ogunyale, De’Aira Bryant+1 more|arXiv (Cornell University)|Jul 3, 2018

Social Robot Interaction and HRI参考文献 10被引用 14

一句话总结

本试点研究调查了在人机交互中去除刻板印象预示是否能消除情绪感知中的偏见。采用被试间设计，共198名参与者，使用仅在肤色上不同的两个达尔文-迷你机器人（白色与黑色），研究发现不同肤色下情绪分类准确率和强度评分无显著差异，表明在无预示条件下，用户依据功能属性而非种族刻板印象来评估机器人。

ABSTRACT

Robots capable of participating in complex social interactions have shown great potential in a variety of applications. As these robots grow more popular, it is essential to continuously evaluate the dynamics of the human-robot relationship. One factor shown to have potential impacts on this critical relationship is the human projection of stereotypes onto social robots, a practice that is implicitly known to effect both developers and users of this technology. As such, in this research, we wished to investigate the difference in participants' perceptions of the robot interaction if we removed stereotype priming. This has not yet been a common practice in similar studies. Given the stereotypes of emotions among ethnic groups, especially in the U.S., this study specifically sought to investigate the impact that robot "skin color" could potentially have on the human perception of a robot's emotional expressive behavior. A between-subject experiment with 198 individuals was conducted. The results showed no significant differences in the overall emotion classification or intensity ratings for the different robot skin colors. These results lend credence to our hypothesis that when individuals are not primed with information related to human stereotypes, robots are evaluated based on functional attributes versus stereotypical attributes. This provides some confidence that robots, if designed correctly, can potentially be used as a tool to override stereotype-based biases associated with human behavior.

研究动机与目标

• 检验在缺乏刻板印象预示的情况下，是否能减少人类对社交机器人感知中的偏见。
• 探究在未对参与者施加种族刻板印象预示时，机器人肤色如何影响情绪感知。
• 确定性别与种族是否在非预示条件下调节人类对人机交互中情绪的感知。
• 通过展示一种能最小化混淆人类偏见的设计，为未来人机交互研究提供方法论见解。
• 探讨在未被社会类别预示时，机器人是否可作为工具以超越人类基于刻板印象的偏见。

提出的方法

• 对198名参与者开展被试间实验研究，随机分配至与白皮肤或黑皮肤达尔文-迷你机器人互动。
• 使用标准化情绪表情（快乐与愤怒）由机器人呈现，以评估不同条件下的感知表现。
• 收集不同参与者人口统计学特征下每种情绪表情的情绪分类准确率和强度评分。
• 采用独立样本t检验比较男性与女性参与者之间，以及白人与非白人参与者之间的感知差异。
• 按性别与种族分析数据，以检测感知中潜在的调节效应，特别关注非白人群体的小样本量。
• 采用非预示实验设计，以避免在互动前激活种族或民族刻板印象。

实验结果

研究问题

• RQ1 去除刻板印象预示是否能消除不同肤色机器人在情绪感知上的差异？
• RQ2 在非预示条件下，性别差异如何影响人类对人机交互中情绪表情的感知？
• RQ3 民族身份在多大程度上调节对机器人行为情绪强度与准确性的感知？
• RQ4 在无预示条件下，机器人是否可基于功能属性而非社会刻板印象被感知？
• RQ5 参与者民族背景在情绪分类准确率与强度评分中扮演何种角色，尤其针对具有社会表现力的机器人？

主要发现

• 在所有参与者群体中，白人机器人与黑人机器人在情绪分类准确率上无显著差异。
• 男性参与者对白人机器人的快乐表情分类准确率为50%，对黑人机器人为49.2%；女性参与者分别为50%和52.6%。
• 对于愤怒表情，男性参与者对白人机器人的分类准确率为57.9%，对黑人机器人为65.8%；女性参与者分别为60%和61.8%，差异无统计学意义。
• 对快乐与愤怒表情的强度评分在男性与女性参与者之间，以及不同肤色机器人之间均无显著差异。
• 在种族群体中，白人与非裔美国人对愤怒表情的识别率相近（分别为61.7%与64.3%），感知无显著差异。
• 唯一显著差异出现在强度评分中：拉丁裔或西班牙裔参与者认为黑人机器人的愤怒表情比白人参与者感知更强烈，但该结果受限于小样本量。