[論文レビュー] Alexa, Google, Siri: What are Your Pronouns? Gender and Anthropomorphism in the Design and Perception of Conversational Assistants

Gavin Abercrombie, Amanda Cercas Curry+2 more|arXiv (Cornell University)|Jun 4, 2021

Ethics and Social Impacts of AI被引用数 8

ひとこと要約

本研究は、ユーザーの代名詞使用とシステム応答を自然言語処理で分析することで、商業的音声アシスタント（アレクサ、グーグルアシスタント、スリーアイ）に対する性別的・人間的認識を調査する。企業がそのアシスタントが性別なしで非人間的であると主張しているにもかかわらず、研究ではユーザーが一貫してアシスタントを人間のように感じさせ、特に女性として認識していることが判明した。一方、システムの応答は人間らしさを示す特徴を曖昧に融合しており、設計上の主張とは対照的にステレオタイプを強化している。

ABSTRACT

Technology companies have produced varied responses to concerns about the effects of the design of their conversational AI systems. Some have claimed that their voice assistants are in fact not gendered or human-like -- despite design features suggesting the contrary. We compare these claims to user perceptions by analysing the pronouns they use when referring to AI assistants. We also examine systems' responses and the extent to which they generate output which is gendered and anthropomorphic. We find that, while some companies appear to be addressing the ethical concerns raised, in some cases, their claims do not seem to hold true. In particular, our results show that system outputs are ambiguous as to the humanness of the systems, and that users tend to personify and gender them as a result.

研究の動機と目的

• ユーザーが自然言語でアレクサ、グーグルアシスタント、スリーアイのような音声アシスタントに対してどれほど人間らしく感じさせ、性別を割り当てるかを調査すること。
• 企業の設計上の非性別・非人間的主張とは対照的に、システムの応答が性別的または人間的特徴を反映しているかどうかを評価すること。
• 企業の設計上の主張と、実際のユーザーの認識および言語的行動との間にある乖離を調査すること。
• 代名詞、感情的言語、語の使用などの言語的特徴が、人間らしさや性別の認識をどのように形成しているかを評価すること。
• 名前、声、応答スタイルなどの設計要因が、暗黙の性別化と人間化にどのように寄与しているかを特定すること。

提案手法

• ユーザー生成コンテンツのオンラインフォーラムから抽出した文脈における代名詞使用（例：'she', 'her'）を分析するため、アンファラ・リゾリューションを用いた。
• LIWC（Linguistic Inquiry and Word Count）を用いて、システムの応答を映画脚本における性別ステレオタイプ言語と比較し、90の言語的カテゴリーについてコサイン類似度を計算した。
• 手動によるアノテーションとワード埋め込み比較を実施し、システム応答に含まれる人間化表現および性別化言語を検出した。
• 「あなたは人間ですか？」「あなたの性別は何ですか？」といった質問に対する応答を分析し、システムが自らの人間らしさと性別をどのように提示しているかを評価した。
• 語の使用分析と埋め込み類似度を用いて、システム生成テキストに潜む微細な性別的言語パターンを検出した。
• 声、名前、応答スタイルの影響が、ユーザーによる性別と人間らしさの認識にどのように影響しているかを、比較的言語的分析によって評価した。

実験結果

リサーチクエスチョン

• RQ1 ユーザーは、アレクサ、グーグルアシスタント、スリーアイのような音声アシスタントに対して、自然言語の使用においてどれほど性別を割り当てるのか？
• RQ2 システムの応答の言語的特徴（例：代名詞、感情的言語、語の選択）は、人間らしさや性別の認識にどのように寄与しているのか？
• RQ3 システムの応答は、企業の非性別的・非人間的主張とは対照的に、どれほど矛盾しているのか？
• RQ4 企業が中立性を主張しているにもかかわらず、性別ステレオタイプと相関する測定可能な言語的差異が、システムの出力に存在するのか？
• RQ5 名前、声、応答スタイルといった設計要因は、ユーザー主導の人間化と性別化にどのように影響しているのか？

主な発見

• ユーザーは、男性声のオプションが利用可能であっても、音声アシスタントに対して主に女性の代名詞（例：'she', 'her'）を使用しており、設計上の非中立性主張とは対照的に強い性別化が見られる。
• LIWC分析の結果、3つのアシスタントすべてが、女性ステレオタイプの映画脚本とわずかに高い類似度を示した。特にグーグルアシスタントは0.86（男性脚本は0.85）と、女性寄りの言語的特徴を示した。
• 企業が非人間的・非性別的であると主張しているにもかかわらず、システムの応答は人間と機械の境界を曖昧にし、親しみやすさ、共感、感情表現を示す言語を多く含んでいた。
• グーグルアシスタントとアレクサは、'I’ve been told I’m personable' のような曖昧で人間らしさを示す表現を多く用いており、一方スリーアイはよりタスク指向的で無感情的なトーンを取っていた。
• 男性声オプションの使用は顕著に少なかったため、デフォルトの女性表現がユーザー体験を支配し続けていると示唆された。
• 性別中立の名前と中立性の主張にもかかわらず、応答の言語的設計がユーザーがアシスタントを人間らしく感じさせ、性別を割り当てる原因となっている。これは、声以外の設計要因が暗黙の性別化に寄与していることを示している。