[논문 리뷰] Understanding and Countering Stereotypes: A Computational Approach to the Stereotype Content Model

Kathleen Fraser, Isar Nejadgholi외 1명|arXiv (Cornell University)|2021. 06. 04.

Computational and Text Analysis Methods인용 수 5

한 줄 요약

이 논문은 문맥 내 사회적 스테레오타입을 의미 임베딩을 사용하여 스테레오타입 내용 모델(Stereotype Content Model)의 온기와 능력 차원으로 매핑하는 계산적 프레임워크를 제시한다. 이는 주어진 어휘 사전과 심리학적 설문 조사 연구 결과와의 비교를 통해 정확도를 검증한다. 또한 편향된 사고를 줄이기 위한 반스테레오타입(역스테레오타입)을 생성하는 새로운 접근법을 제안하며, 텍스트 내 유해한 언어를 자동으로 대응할 수 있는 기초를 마련한다.

ABSTRACT

Stereotypical language expresses widely-held beliefs about different social categories. Many stereotypes are overtly negative, while others may appear positive on the surface, but still lead to negative consequences. In this work, we present a computational approach to interpreting stereotypes in text through the Stereotype Content Model (SCM), a comprehensive causal theory from social psychology. The SCM proposes that stereotypes can be understood along two primary dimensions: warmth and competence. We present a method for defining warmth and competence axes in semantic embedding space, and show that the four quadrants defined by this subspace accurately represent the warmth and competence concepts, according to annotated lexicons. We then apply our computational SCM model to textual stereotype data and show that it compares favourably with survey-based studies in the psychological literature. Furthermore, we explore various strategies to counter stereotypical beliefs with anti-stereotypes. It is known that countering stereotypes with anti-stereotypical examples is one of the most effective ways to reduce biased thinking, yet the problem of generating anti-stereotypes has not been previously studied. Thus, a better understanding of how to generate realistic and effective anti-stereotypes can contribute to addressing pressing societal concerns of stereotyping, prejudice, and discrimination.

연구 동기 및 목표

• 의미 임베딩 공간에서 스테레오타입 내용 모델(Stemotype Content Model, SCM)의 온기–능력 차원에 대한 텍스트 스테레오타입을 매핑하는 계산적 방법을 개발하는 것.
• 이러한 특성과 관련된 단어 어휘 사전을 사용하여 모델의 온기와 능력 표현 정확도를 검증하는 것.
• 심리학적 설문 조사 연구 결과와의 비교를 통해 계산된 스테레오타입 예측의 타당성을 입증하고 기존 문헌과의 일치를 보여주는 것.
• 건설적인 반서사문을 자동으로 생성하기 위한 첫걸음으로 인간이 생성한 반스테레오타입을 탐색하고 분석하는 것.
• 부정적 스테레오타입 뿐 아니라 '긍정적' 스테레오타입까지도 초래하는 사회적 해를 줄이기 위해, 이를 계산적으로 식별하고 대응할 수 있는 프레임워크를 제안하는 것.

제안 방법

• 온기와 능력 특성과 관련된 것으로 알려진 어휘 사전에서 추출한 시드 단어를 사용하여 사전 학습된 단어 임베딩 공간에서 온기와 능력 축을 정의하는 것.
• 벡터 산술과余弦 유사도를 활용하여 StereoSet 데이터셋의 스테레오타입 및 반스테레오타입 문장들을 이원수 온기–능력 평면에 투영하는 것.
• 온기와 능력 단어의 황금 표준 어휘 사전을 기반으로 성능 평가를 통해 임베딩 모델 선택을 최적화하는 것.
• 온기–능력 부분공간 내 위치에 따라 스테레오타입을 군집화하고 해석하며, 높은/낮은 온기와 능력에 해당하는 4분면을 식별하는 것.
• StereoSet 데이터셋에서 인간이 생성한 반스테레오타입을 분석하여, 기존 스테레오타입 대비 그들의 의미적 및 관계적 특성을 이해하는 것.
• 반스테레오타입 제안을 위한 알고리즘-인-더-루프 접근법을 제안하며, 새로운 편향을 유발하지 않도록 인간의 감시를 강조하는 것.

실험 결과

연구 질문

• RQ1 스테레오타입 내용 모델의 온기와 능력 차원이 의미 임베딩 공간에서 효과적으로 표현되고 계산될 수 있는가?
• RQ2 StereoSet 데이터셋의 스테레오타입에 대해 계산된 온기–능력 점수는 전통적인 심리학적 설문 조사 결과와 얼마나 잘 일치하는가?
• RQ3 인간이 생성한 반스테레오타입의 언어적 및 의미적 특성은 무엇이며, 원본 스테레오타입과 어떻게 관련되어 있는가?
• RQ4 유해하거나 편향된 연관성을 가진 텍스트에서 반스테레오타입을 체계적으로 생성할 수 있는가? 이 과정에서 발생할 수 있는 위험은 무엇인가?
• RQ5 계산 모델은 어떻게 그룹 기반의 스테레오타입을 약화시키는 반서사문을 창출하는 데 기여할 수 있으며, 동시에 새로운 편향을 강화하지는 않는가?

주요 결과

• 모델은 온기와 능력 단어의 황금 표준 어휘 사전과의 비교를 통해 높은 정확도로 스테레오타입 언어를 온기–능력 평면에 매핑하는 데 성공했다.
• 모델의 스테레오타입 예측 결과는 심리학적 설문 조사 연구 결과와 강력한 일치를 보이며, 실제 사회적 인식을 반영하는 데 있어 타당성을 입증했다.
• StereoSet 데이터셋 내 인간이 생성한 반스테레오타입은 해당 스테레오타입과 반대되는 4분면에 주로 위치해 있어, 부정적 연관성을 뒤집는 전략적 노력이 있음을 시사한다.
• 반스테레오타입은 스테레오타입의 의미적 반대어가 아니라, 맥락적·의미적으로 세련된 복합적 특성을 지닌다. 종종 원래 스테레오타입에 존재하지 않는 대체 긍정적 특성을 반영한다.
• 이 방법은 계산적으로 효율적이며, 사전 학습된 임베딩을 로드한 후 단일 CPU에서 1분 이내에 분석을 완료할 수 있다.
• 연구는 조건부로 반스테레오타입이 조심스럽게 코딩되지 않으면, 조건부로 새로운 편향을 강화할 수 있음을 드러내며, 인간이 개입하는 시스템의 필요성을 강조한다.