[논문 리뷰] The blame game: Understanding blame assignment in social media

Ruijie Xi, Munindar P. Singh|arXiv (Cornell University)|2023. 02. 26.

Psychology of Moral and Emotional Judgment인용 수 4

한 줄 요약

이 논문은 r/AmITheAsshole 서브레딧에서 수집한 30,000건의 제1인칭 도덕적 내러시브 데이터셋을 활용하여 소셜 미디어에서의 비난 배정을 조사한다. 자연어처리(NLP) 기법을 적용해 인지-정서적 언어 특징과 사회적 요인—특히 성별과 연령—이 청중의 판단에 미치는 영향을 분석하며, 남성이 역할에 관계없이 더 자주 비난을 받는다는 점을 규명한다. 또한, 주체성과 관련된 언어가 비난 결과에 상당한 영향을 미친다는 점을 밝혀냈다.

ABSTRACT

Cognitive and psychological studies on morality have proposed underlying linguistic and semantic factors. However, laboratory experiments in the philosophical literature often lack the nuances and complexity of real life. This paper examines how well the findings of these cognitive studies generalize to a corpus of over 30,000 narratives of tense social situations submitted to a popular social media forum. These narratives describe interpersonal moral situations or misgivings; other users judge from the post whether the author (protagonist) or the opposing side (antagonist) is morally culpable. Whereas previous work focuses on predicting the polarity of normative behaviors, we extend and apply natural language processing (NLP) techniques to understand the effects of descriptions of the people involved in these posts. We conduct extensive experiments to investigate the effect sizes of features to understand how they affect the assignment of blame on social media. Our findings show that aggregating psychology theories enables understanding real-life moral situations. Moreover, our results suggest that there exist biases in blame assignment on social media, such as males are more likely to receive blame no matter whether they are protagonists or antagonists.

연구 동기 및 목표

• 실생활 도덕적 내러티브의 언어적 및 사회적 특징이 소셜 미디어에서 비난 배정에 어떻게 영향을 미치는지 이해하는 것.
• 실제 실험실 환경에서의 도덕성 이론이 실제 온라인 대화 맥락으로 일반화되는지 평가하는 것.
• 특히 주체성과 정서와 관련된 언어적 특징—예를 들어, 피해자 중심의 언어나 도덕 기반 이론의 카테고리—등이 청중의 도덕적 책임 인식에 어떻게 영향을 미치는지 특정하는 것.
• 온라인 도덕적 판단 맥락에서 성별과 연령과 관련된 비난 배정 편향이 존재하는지 조사하는 것.

제안 방법

• 내러티브의 개인을 주인공 또는 악역으로 분류하기 위한 엔티티 중심의 NLP 프레임워크를 제안한다.
• 사회심리학에서 유래한 인지-정서적 언어 특징을 운영화하며, 정서를 담은 형용사, 도덕 기반 이론의 카테고리(예: 보살핌), 주체성 언어 등을 포함한다.
• 게시물에서 추출한 언어적 및 사회적 특징을 기반으로 비난 판결을 예측하기 위해 기계학습 분류기 모델을 사용한다.
• 비난 배정에 대한 특징의 영향력 크기를 측정하기 위해 통계 모델링을 적용하여 예측 정확도를 넘는 해석 가능성 확보.
• 성별과 주인공의 연령과 같은 사회적 요소를 분석에 통합하여 편향 패턴을 탐지한다.
• 30,000건의 AITA 게시물로 구성된 대규모 코퍼스와 함께 인과적 비난 판결을 활용해 연구 결과의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 소셜 미디어 내러티브에서 비난 배정에 가장 강하게 영향을 미치는 인지-정서적 언어 특징은 무엇인가?
• RQ2 성별과 연령과 같은 사회적 요소가 실제 도덕적 갈등 게시물에서 비난 배정에 어떻게 영향을 미치는가?
• RQ3 이론적 도덕성 이론, 예를 들어 이원적 도덕성 이론(Dyadic Morality Theory)이 실제 온라인 대화 맥락으로 일반화되는 정도는 어느 정도인가?
• RQ4 다양한 내러티브 역할에서 남성에 대한 비난에 감지 가능한 편향이 존재하는가?

주요 결과

• 남성이 주인공이든 악역이든 여성보다 더 자주 비난을 받는다는 점에서, 온라인 비난 배정에 체계적인 성별 편향이 존재함을 시사한다.
• 보살핌과 관련된 단어가 적은 게시물일수록 더 자주 비난을 받는 경향이 있으며, 이는 타인에 대한 배려가 있는 것으로 여겨질수록 비난이 줄어든다는 것을 의미한다.
• 주체성과 관련된 언어적 특징—예를 들어, 능동태나 의도적 동사—는 비난 배정 가능성을 상당히 높인다.
• 15–45세 연령층에서 비난 배정에 향상된 편향이 관찰되며, 남성이 주인공일 경우 특히 두드러진다. 이는 연령 기반 도덕적 유형화의 가능성을 시사한다.
• 이론적 도덕성 이론, 예를 들어 이원적 도덕성 이론은 실제 소셜 미디어 맥락으로 일반화되며, 피해와 취약성에 대한 언어적 단서가 비난 결과에 영향을 미친다.
• 심리학에 기반한 특징을 활용한 기계학습 모델은 높은 예측 성능를 보이며, 사회심리학을 NLP에 통합함으로써 도덕적 추론에 대한 설명력이 있음을 입증한다.