[論文レビュー] Examining the Presence of Gender Bias in Customer Reviews Using Word Embedding

Arul Mishra, Himanshu Mishra+1 more|arXiv (Cornell University)|Jan 1, 2019

Consumer Market Behavior and Pricing参考文献 36被引用数 5

ひとこと要約

本研究では、1,100万件のアマゾンおよびYelpのカスタマーレビューにGloVe単語埋め込みを適用し、顧客レヴューにおけるステレオタイプ的性別バイアスを検出する。その結果、女性は『気まぐれ』『家庭に閉じこもる』といった否定的特徴と強く関連している一方で、男性は『忠誠心』『落ち着き』『勤勉』といった肯定的特徴と関連していることが判明。このバイアスは、特に否定的レコメンデーション下で、女性消費者が肯定的特徴を持つ製品を選ばない傾向を助長し、製品レコメンデーションにおけるアルゴリズム的性別ステレオタイプの強化を示している。

ABSTRACT

Humans have entered the age of algorithms. Each minute, algorithms shape countless preferences from suggesting a product to a potential life partner. In the marketplace algorithms are trained to learn consumer preferences from customer reviews because user-generated reviews are considered the voice of customers and a valuable source of information to firms. Insights mined from reviews play an indispensable role in several business activities ranging from product recommendation, targeted advertising, promotions, segmentation etc. In this research, we question whether reviews might hold stereotypic gender bias that algorithms learn and propagate Utilizing data from millions of observations and a word embedding approach, GloVe, we show that algorithms designed to learn from human language output also learn gender bias. We also examine why such biases occur: whether the bias is caused because of a negative bias against females or a positive bias for males. We examine the impact of gender bias in reviews on choice and conclude with policy implications for female consumers, especially when they are unaware of the bias, and the ethical implications for firms.

研究の動機と目的

• カスタマーレビューにアルゴリズムが学び、拡散する可能性のあるステレオタイプ的性別バイアスが含まれるかどうかを調査すること。
• このバイアスが女性に対する否定的ステレオタイプに起因するのか、それとも男性に対する肯定的ステレオタイプに起因するのかを特定すること。
• 性別バイアスを含むレビューが、特に製品レコメンデーションシステムにおいて消費者意思決定に与える影響を評価すること。
• バイアスのあるレビューがアルゴリズム的意思決定を形作る場合の企業および女性消費者に対する倫理的・政策的含みを浮き彫りにすること。

提案手法

• アマゾンおよびYelpの1,100万件のカスタマーレビューの意味的関連性を分析するため、GloVe（グローバル・ベクトル）単語埋め込みを適用。
• 大規模なテキスト上で単語ベクトルを学習し、単語と性別的特徴との間の意味的関係を捉える。
• 語の類似度および類推技術を用いて、レヴュー言語における暗黙の性別バイアスを測定（例：「woman」と「fickle」の関係対比「man」と「sensible」）。
• 制御された実験を実施し、性別に偏ったレコメンデーションが消費者選択に与える影響をテスト。肯定的レコメンデーション条件と否定的レコメンデーション条件を比較。
• 検索クエリの結果を分析し、性別に偏った語（例：「賢い買い物上手」対比「衝動的買い物上手」）が異なる画像認識を引き起こすかを検証。
• 対数オッズ比およびz検定を用いて、条件間での選択行動の差を統計的に評価。

実験結果

リサーチクエスチョン

• RQ1 カスタマーレビューにアルゴリズムが学び、拡散する可能性のある暗黙の性別バイアスが含まれるか？
• RQ2 観察された性別バイアスは、女性に対する否定的関連性に起因するのか、それとも男性に対する肯定的関連性に起因するのか？
• RQ3 レビューにおける性別バイアスが、特に製品レコメンデーションシステムにおいて消費者選択に影響を及えるか？
• RQ4 レコメンデーションの感情的価値（肯定的対比否定的）が、性別バイアスの消費者意思決定への影響にどのように作用するか？

主な発見

• カスタマーレビューにおいて、女性は『気まぐれ』『衝動的』『家庭に閉じこもる』といった否定的特徴と顕著に関連している一方で、男性は『忠誠心』『落ち着き』『勤勉』といった肯定的特徴と関連している。
• 製品レコメンデーション実験では、否定的レコメンデーションが女性消費者が肯定的特徴を持つ製品を選ばない確率を低下させたが、肯定的レコメンデーションはその選択に顕著な影響を及ぼさなかった。
• 男性消費者においては、肯定的レコメンデーションが肯定的特徴を持つ製品の選択率（63.84％）を、コントロール条件（54.1％）よりも高めたが、否定的レコメンデーションはその影響が顕著ではなかった。
• 肯定的レコメンデーション下での男性の選択行動における対数オッズ比は-0.42（p < 0.04）であり、肯定的レコメンデーションが男性行動に統計的に有意な影響を及ぼしていることを示している。
• 否定的性別語（例：「衝動的買い物上手」）を含む検索クエリは、肯定的語（例：「賢い買い物上手」）よりも女性に関連する画像を多く引き起こし、アルゴリズムによる性別ステレオタイプの強化が確認された。
• バイアスを含むレビューは、特に女性をキャリア志向や高価格帯製品から遠ざけることで、製品レコメンデーションにおいて差別の的結果をもたらす可能性があり、企業および消費者にとって倫理的懸念を喚起する。