[논문 리뷰] The Virality of Hate Speech on Social Media

Abdurahman Maarouf, Nicolas Pröllochs외 1명|arXiv (Cornell University)|2022. 10. 25.

Hate Speech and Cyberbullying Detection인용 수 4

한 줄 요약

이 연구는 X(이전에 티터)에서 혐오 발언의 확산성에 대해 25,219개의 재트윗 캐스케이드 데이터셋을 사용하여 일반선형모형을 적용하여 저자 및 콘텐츠 수준의 요인들이 혐오성 콘텐츠와 일반 콘텐츠의 확산에 미치는 영향을 분석한다. 연구 결과, 검증된 사용자가 올린 혐오 발언은 캐스케이드 크기 기준 3.5배 더 높은 확산성을 보이며, 수명은 3.2배 더 길고, 구조적 확산성은 1.2배 더 높다. 이는 검증된 계정이 혐오 발언의 확산을 크게 증폭시키는 데 기여하고 있음을 시사한다.

ABSTRACT

Online hate speech is responsible for violent attacks such as, e.g., the Pittsburgh synagogue shooting in 2018, thereby posing a significant threat to vulnerable groups and society in general. However, little is known about what makes hate speech on social media go viral. In this paper, we collect N = 25,219 cascades with 65,946 retweets from X (formerly known as Twitter) and classify them as hateful vs. normal. Using a generalized linear regression, we then estimate differences in the spread of hateful vs. normal content based on author and content variables. We thereby identify important determinants that explain differences in the spreading of hateful vs. normal content. For example, hateful content authored by verified users is disproportionally more likely to go viral than hateful content from non-verified ones: hateful content from a verified user (as opposed to normal content) has a 3.5 times larger cascade size, a 3.2 times longer cascade lifetime, and a 1.2 times larger structural virality. Altogether, we offer novel insights into the virality of hate speech on social media.

연구 동기 및 목표

• 소셜 미디어, 특히 X(트위터)에서 혐오 발언의 확산성에 기여하는 요인을 이해하기 위해.
• 혐오성 콘텐츠와 일반 콘텐츠의 확산을 구분하는 저자 및 콘텐츠 특성 식별하기 위해.
• 이전 연구가 사용자 수준의 동적 특성에만 집중한 점을 감안해, 콘텐츠 수준의 확산성에 대한 이해 격차를 메우기 위해.
• 확산 특성의 구조적 특징을 식별하여 감지 및 정책 수립 전략을 뒷받침하기 위해.

제안 방법

• X(트위터)에서 루트 트윗과 모든 재트윗을 포함한 총 25,219개의 재트윗 캐스케이드를 수집하였으며, 혐오 발언에 대한 인간 레이블링을 수행하였다.
• 저자 수준의 특징을 추출: 팔로워 수, 팔로잉 수, 검증 여부, 트윗 수량, 계정 연령.
• 콘텐츠 수준의 특징을 추출: 미디어 포함 여부, 해시태그, 언급, 트윗 길이.
• 세 가지 결과 변수 정의: 캐스케이드 크기(총 재트윗 수), 캐스케이드 수명(재트윗 지속 기간), 구조적 확산성(급격한 확산 특성 측정 기준).
• 일반선형모형(GLMs)을 적용하여 저자 및 콘텐츠 특징이 세 가지 확산 지표에 미치는 영향을 추정하였다.
• 통계 모델링을 통해 검증된 계정 여부 및 기타 특징이 혐오성 콘텐츠와 일반 콘텐츠의 상대적 확산에 미치는 영향을 분리 분석하였다.

실험 결과

연구 질문

• RQ1 X에서 혐오성 콘텐츠와 일반 콘텐츠의 확산 동역학 차이를 설명하는 주요 결정 요인은 무엇인가?
• RQ2 검증된 계정 여부가 일반 콘텐츠와 비교해 혐오 발언의 확산성에 어떤 영향을 미치는가?
• RQ3 언급, 해시태그, 미디어 포함 여부 등의 콘텐츠 수준 특징이 혐오 발언의 확산에 어떤 영향을 미치는가?
• RQ4 캐스케이드의 구조적 특성(예: 크기, 수명, 구조적 확산성)이 혐오성 콘텐츠와 일반 콘텐츠 간에 어느 정도 다를까?

주요 결과

• 검증된 사용자가 올린 혐오 콘텐츠는 검증된 사용자가 올린 일반 콘텐츠보다 캐스케이드 크기가 3.5배 더 크다.
• 검증된 사용자가 올린 혐오 콘텐츠는 검증된 사용자가 올린 일반 콘텐츠보다 캐스케이드 수명이 3.2배 더 길다.
• 검증된 사용자가 올린 혐오 콘텐츠는 검증된 사용자가 올린 일반 콘텐츠보다 구조적 확산성이 1.2배 더 높다.
• 언급과 해시태그의 존재는 혐오 발언의 확산을 감소시키는 것으로 나타나, 타겟 중심 혐오보다 일반화된 혐오가 더 빠르게 퍼질 수 있음을 시사한다.
• 혐오 발언은 일반 콘텐츠보다 전염성이 높으며, 훨씬 더 큰 캐스케이드 크기, 더 긴 수명, 더 높은 구조적 확산성을 보인다.
• 확산성 있는 혐오 발언에서 해시태그와 언급의 부재는 기존 NLP 기반 감지 기법의 한계를 드러내며, 감지에 있어 캐스케이드 수준의 특징이 더 효과적일 수 있음을 시사한다.