[논문 리뷰] Hate begets Hate: A Temporal Study of Hate Speech

Binny Mathew, Anurag Illendula외 4명|arXiv (Cornell University)|2019. 09. 24.

Hate Speech and Cyberbullying Detection참고 문헌 85인용 수 28

한 줄 요약

이 연구는 최소한의 콘텐츠 모니터링이 이루어지는 소셜미디어 플랫폼인 Gab에서의 혐오 발언에 대한 최초의 시간적 분석을 수행한다. 월간 네트워크 스냅샷과 DeGroot 모델을 활용하여 사용자별 혐오 강도 점수를 할당한다. 연구 결과, 혐오 발언은 지속적으로 증가하고 있으며, 신규 사용자들은 시간이 지남에 따라 더 빨리 혐오스러운 성향을 보이게 되며, 혐오스러운 사용자들이 네트워크의 중심부를 지배하고 있으며, 전체 커뮤니티의 언어는 점점 혐오 사용자들의 언어를 반영하게 되어, 혐오의 상호강화적 생태계가 존재하는 것으로 나타났다.

ABSTRACT

With the ongoing debate on 'freedom of speech' vs. 'hate speech' there is an urgent need to carefully understand the consequences of the inevitable culmination of the two, i.e., 'freedom of hate speech' over time. An ideal scenario to understand this would be to observe the effects of hate speech in an (almost) unrestricted environment. Hence, we perform the first temporal analysis of hate speech on Gab.com, a social media site with very loose moderation policy. We first generate temporal snapshots of Gab from millions of posts and users. Using these temporal snapshots, we compute an activity vector based on DeGroot model to identify hateful users. The amount of hate speech in Gab is steadily increasing and the new users are becoming hateful at an increased and faster rate. Further, our analysis analysis reveals that the hate users are occupying the prominent positions in the Gab network. Also, the language used by the community as a whole seem to correlate more with that of the hateful users as compared to the non-hateful ones. We discuss how, many crucial design questions in CSCW open up from our work.

연구 동기 및 목표

• 최소한의 콘텐츠 모니터링 환경에서 혐오 발언의 장기적 진화를 연구하기 위해 Gab을 사례로 삼는다.
• 온라인 커뮤니티에서 혐오 발언이 시간이 지남에 따라 어떻게 퍼지고 정규화되는지 이해한다.
• 혐오스러운 사용자들이 넓은 커뮤니티의 언어적 및 네트워크 구조에 미치는 영향을 분석한다.
• CSCW 시스템에서 혐오 발언의 시간적 증가를 완화하기 위한 플랫폼 설계 및 거버넌스에 대한 함의를 탐색한다.

제안 방법

• 약 2,100만 개의 게시물을 기반으로 한 데이터셋을 활용하여, 월간 간격으로 Gab의 소셜 네트워크 시간적 스냅샷을 구축하였다.
• 사용자 상호작용과 콘텐츠를 바탕으로 DeGroot 신뢰 모델을 적용하여 혐오 강도 점수를 계산하였다.
• DeGroot 모델의 수렴 동역학을 활용하여 사용자를 저강도, 중강도, 고강도 혐오 강도 그룹으로 분류하였다.
• 언어적 분석을 수행하여 시간이 지남에 따라 혐오스러운 사용자와 비혐오스러운 사용자의 언어 사용 방식을 비교하였다.
• 핵심-주변 구조 분석을 수행하여 혐오스러운 사용자들이 네트워크에서 얼마나 중심적인 위치를 차지하고 있는지 평가하였다.
• 외부 자극 요인(예: 유니트 더 라이트 데모, 트위터 정리)을 기반으로 한 이벤트 분석을 수행하여 혐오 발언 증가에 미치는 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 Gab에서 혐오 발언의 량과 강도는 시간이 지남에 따라 어떻게 변화하는가?
• RQ2 신규 사용자들의 혐오 발언 행동은 초기 사용자들과 비교하여 시간이 지남에 따라 어떻게 변화하는가?
• RQ3 혐오스러운 사용자들이 Gab의 소셜 네트워크에서 중심적인 위치를 차지하는 정도는 어느 정도인가?
• RQ4 시간이 지남에 따라 일반 커뮤니티의 언어는 혐오 사용자들과 얼마나 유사해지는가?
• RQ5 어떤 외부 사건이 Gab에서 혐오 발언의 증가를 유도하거나 가속화하는가?

주요 결과

• 이 연구 기간 동안 Gab에서의 혐오 발언 총량은 두 해 동안 지속적으로 증가하였다.
• 신규 사용자들은 시간이 지남에 따라 더 빠르게 혐오스러운 성향을 보이게 되었으며, 고강도 혐오 강도 점수에 도달하는 사용자 비율이 점점 증가하였다.
• 혐오 발언 급증 시점에 있어 중·고강도 혐오 사용자들의 다수는 신규 입소자들이 아니라 기존 사용자들이었다.
• 혐오스러운 사용자들은 Gab 네트워크의 핵심부에 자리 잡고 있었으며, 비혐오스러운 사용자들보다 더 빠르게 중심 위치를 확보하였다.
• 일반 Gab 커뮤니티의 언어는 점점 혐오 사용자들의 언어와 유사해졌으며, 이는 혐오 언어의 언어적 정규화를 시사한다.
• 유니트 더 라이트 데모 및 2017년 12월 트위터 정리와 같은 외부 사건들은 혐오 발언 급증과 시간적으로 연관되어 있었지만, 핵심 혐오 사용자들은 대부분 이미 존재하고 있었다.