[論文レビュー] Understanding and Countering Stereotypes: A Computational Approach to the Stereotype Content Model

Kathleen Fraser, Isar Nejadgholi+1 more|arXiv (Cornell University)|Jun 4, 2021

Computational and Text Analysis Methods被引用数 5

ひとこと要約

本稿では、テキスト内の社会的スティグマを意味的埋め込みを用いてステレオタイプ内容モデル（SCM）の温かさと能力の次元にマッピングする計算フレームワークを提示している。このフレームワークは、アノテート済み語彙と心理的調査研究の結果と照合することで正確性を検証している。さらに、バイアスの強い思考を軽減するための反スティグマ（反ステレオタイプ的代替表現）を生成する画期的なアプローチを導入し、テキストにおける有害な言語を自動で是正する基盤を提供する。

ABSTRACT

Stereotypical language expresses widely-held beliefs about different social categories. Many stereotypes are overtly negative, while others may appear positive on the surface, but still lead to negative consequences. In this work, we present a computational approach to interpreting stereotypes in text through the Stereotype Content Model (SCM), a comprehensive causal theory from social psychology. The SCM proposes that stereotypes can be understood along two primary dimensions: warmth and competence. We present a method for defining warmth and competence axes in semantic embedding space, and show that the four quadrants defined by this subspace accurately represent the warmth and competence concepts, according to annotated lexicons. We then apply our computational SCM model to textual stereotype data and show that it compares favourably with survey-based studies in the psychological literature. Furthermore, we explore various strategies to counter stereotypical beliefs with anti-stereotypes. It is known that countering stereotypes with anti-stereotypical examples is one of the most effective ways to reduce biased thinking, yet the problem of generating anti-stereotypes has not been previously studied. Thus, a better understanding of how to generate realistic and effective anti-stereotypes can contribute to addressing pressing societal concerns of stereotyping, prejudice, and discrimination.

研究の動機と目的

• 意味的埋め込み空間において、ステレオタイプ内容モデル（SCM）の温かさ–能力次元にテキストスティグマをマッピングする計算手法を開発すること。
• これらの特徴に関連する語彙を用いたアノテート済み語彙と照合することで、モデルが温かさと能力をどの程度正確に表現できるかを検証すること。
• 心理的アンケート調査の結果と照合し、計算によるスティグマ予測が既存の文献と整合することを示すこと。
• 建設的な反ナラティブの自動生成に向けた第一歩として、人間が生成した反スティグマを探索・分析すること。
• 否定的でない「肯定的」スティグマも含めた社会的害を軽減するため、計算的手法による同定と是正のフレームワークを提唱すること。

提案手法

• 温かさと能力の軸を、これらの特徴を表すとされるアノテート済み語彙に由来する種まき語のセットを用いて、事前学習済み語埋め込み空間で定義する。
• StereoSetデータセットに含まれるスティグマ的および反スティグマ的表現を、ベクトル演算とコサイン類似度を用いて2次元の温かさ–能力平面に投影する。
• 温かさと能力の語彙のゴールドスタンダード語彙を用いて、埋め込みモデルの選定を最適化する。
• 温かさ–能力部分空間における位置に基づいてスティグマをクラスタリングし、高/低の温かさと能力に対応する象限を同定する。
• StereoSetデータセットに含まれる人間が生成した反スティグマを分析し、スティグマに対する意味的および関係的性質を理解する。
• 人間の監視を重視する「アルゴリズム・イン・ザ・ループ」アプローチを提案し、反スティグマを提示する。

実験結果

リサーチクエスチョン

• RQ1 ステレオタイプ内容モデルの温かさと能力の次元を、意味的埋め込み空間で効果的かつ計算可能に表現できるか？
• RQ2 StereoSetデータセットに含まれるスティグマの計算された温かさ–能力スコアは、従来の心理的アンケート調査の結果とどの程度整合性を示すか？
• RQ3 人間が生成した反スティグマの言語的および意味的特徴は何か？ また、それらは元のスティグマとどのように関係しているか？
• RQ4 有害な関連性やバイアスを伴う言語的関連性を是正するため、反スティグマを体系的に生成できるか？ その生成に伴うリスクは何か？
• RQ5 計算モデルは、新たなバイアスを強化しないように、集団ベースのスティグマを弱体化させる反ナラティブの作成をどのように支援できるか？

主な発見

• アノテート済み語彙のゴールドスタンダード語彙と照合することで、計算モデルがスティグマ的言語を温かさ–能力平面に高い正確性でマッピングできることを確認した。
• モデルのスティグマ予測は、心理的アンケート調査の結果と強く整合しており、現実の社会的認識を正しく表現していることが確認された。
• StereoSetデータセットに含まれる人間が生成した反スティグマは、それに対応するスティグマとは反対の象限に多く位置しており、否定的関連性を逆転させる戦略的配慮が示された。
• 反スティグマはスティグマの意味的反対語ではなく、文脈的・意味的に洗練されたものであり、元のスティグマに存在しない代替的肯定的特徴を反映していることが多かった。
• この手法は計算的にも効率的であり、1つのCPUを用い、事前学習済み埋め込みをロードした後は1分未満で分析が完了する。
• 研究では、意図は良いにしても、適切にキュレートされない反スティグマは新たなバイアスを強化する可能性があると浮き彫りにした。これは、人間が関与するシステムの必要性を強調するものである。