[论文解读] Alexa, Google, Siri: What are Your Pronouns? Gender and Anthropomorphism in the Design and Perception of Conversational Assistants

Gavin Abercrombie, Amanda Cercas Curry+2 more|arXiv (Cornell University)|Jun 4, 2021

Ethics and Social Impacts of AI被引用 8

一句话总结

本研究通过自然语言处理分析用户代词使用及系统回应，探究商业语音助手（Alexa、Google Assistant、Siri）的性别化与拟人化认知。尽管各公司声称其助手为无性别、非人类，研究发现用户持续将助手人格化并主要视为女性，而系统回应则含糊地融合了类人特质，尽管设计声明相反，仍强化了性别刻板印象。

ABSTRACT

Technology companies have produced varied responses to concerns about the effects of the design of their conversational AI systems. Some have claimed that their voice assistants are in fact not gendered or human-like -- despite design features suggesting the contrary. We compare these claims to user perceptions by analysing the pronouns they use when referring to AI assistants. We also examine systems' responses and the extent to which they generate output which is gendered and anthropomorphic. We find that, while some companies appear to be addressing the ethical concerns raised, in some cases, their claims do not seem to hold true. In particular, our results show that system outputs are ambiguous as to the humanness of the systems, and that users tend to personify and gender them as a result.

研究动机与目标

• 考察用户在自然语言使用中，对Alexa、Google Assistant和Siri等语音助手人格化与性别化的程度。
• 评估系统回应是否反映性别化或拟人化特征，尽管企业声称中立。
• 探究企业设计声明与实际用户认知及语言行为之间的脱节。
• 评估语言特征（如代词、情感语言、词汇使用）在塑造对人类特质与性别的感知中的作用。
• 识别设计选择（如语音、名称、回应风格）如何促成隐性性别化与拟人化。

提出的方法

• 使用回指消解分析用户生成内容（如在线论坛）中的代词使用（如‘她’、‘她’），以评估感知性别。
• 应用LIWC（语言探究与词频统计）比较系统回应与电影剧本中的性别刻板语言，计算90个语言类别的余弦相似度。
• 通过人工标注与词嵌入对比，检测系统回应中的拟人化表达与性别化语言。
• 分析对‘你是不是人类？’和‘你的性别是什么？’等问题的回应，评估系统在自我呈现中对人类特质与性别的表达。
• 使用词汇使用分析与嵌入相似性检测，识别系统生成文本中细微的性别化语言模式。
• 通过对比语言学分析，评估语音、名称与回应风格对感知性别与人类特质的影响。

实验结果

研究问题

• RQ1 用户在自然语言使用中，对Alexa、Google Assistant和Siri等语音助手的性别赋予程度如何？
• RQ2 系统回应的语言特征（如代词、情感语言、词汇选择）在多大程度上影响对人类特质与性别的感知？
• RQ3 系统回应在多大程度上与企业宣称的无性别、非人类相矛盾？
• RQ4 是否存在可测量的语言差异，使系统回应与性别刻板印象相关联，即使系统声称中立？
• RQ5 设计元素（如名称、语音、回应风格）如何影响用户主导的拟人化与性别化？

主要发现

• 用户主要使用女性代词（如‘她’、‘她’）指代语音助手，即使存在男性语音选项，也表明尽管设计声称中立，仍存在强烈性别化现象。
• LIWC分析显示，所有三款助手的回应与女性刻板印象电影剧本的相似度略高，Google Assistant得分为0.86（男性剧本为0.85），表明存在细微的性别化语言。
• 尽管企业声称无性别、非人类，系统回应常模糊人类与机器的界限，表现出亲和力、同理心与情感表达语言。
• Google Assistant与Alexa更可能以模糊、类人特质回应（如‘我被告知我很有亲和力’），而Siri则采用更任务导向、非人格化的语气。
• 研究未发现男性语音选项的显著使用，表明默认的女性呈现仍主导用户使用体验。
• 即使名称中立且声明中立，回应的语言设计仍导致用户将助手人格化并赋予性别，表明语音之外的设计选择也促成隐性性别化。