[논문 리뷰] Understanding the Bystander Effect on Toxic Twitter Conversations

Ana Aleksandric, Mohit Singhal외 2명|arXiv (Cornell University)|2022. 11. 19.

Hate Speech and Cyberbullying Detection인용 수 5

한 줄 요약

이 연구는 트위터에서 군집 역학이 볼로시티를 어떻게 증폭시키는지, 특히 무관심 효과와 초반 반응 규범을 통해 분석한다. 9,000개의 대화에서 156,324개의 트윗을 샘플로 분석한 결과, 참가자가 많을수록 비폭력적 반응이 감소하는 무관심 효과가 나타나며, 초기에 폭력적인 반응이 있으면 대화 전체의 폭력성이 증가하는 경향이 있음을 확인했다. 이는 사회적 규범이 온라인 행동을 이끄는 핵심 요인임을 시사한다.

ABSTRACT

In this study, we explore the power of group dynamics to shape the toxicity of Twitter conversations. First, we examine how the presence of others in a conversation can potentially diffuse Twitter users' responsibility to address a toxic direct reply. Second, we examine whether the toxicity of the first direct reply to a toxic tweet in conversations establishes the group norms for subsequent replies. By doing so, we outline how bystanders and the tone of initial responses to a toxic reply are explanatory factors which affect whether others feel uninhibited to post their own abusive or derogatory replies. We test this premise by analyzing a random sample of more than 156k tweets belonging to ~9k conversations. Central to this work is the social psychological research on the "bystander effect" documenting that the presence of bystanders has the power to alter the dynamics of a social situation. If the first direct reply reaffirms the divisive tone, other replies may follow suit. We find evidence of a bystander effect, with our results showing that an increased number of users participating in the conversation before receiving a toxic tweet is negatively associated with the number of Twitter users who responded to the toxic reply in a non-toxic way. We also find that the initial responses to toxic tweets within conversations is of great importance. Posting a toxic reply immediately after a toxic comment is negatively associated with users posting non-toxic replies and Twitter conversations becoming increasingly toxic.

연구 동기 및 목표

• 트위터 대화에서 폭력적인 반응에 대해 비폭력적으로 대응할 가능성이 떨어지는 이유를 무관심 효과의 관점에서 조사한다.
• 폭력적인 트윗에 대한 초반 반응이 이후 대화의 폭력성에 영향을 미치는 규범을 설정하는지 조사한다.
• 사이버불링과 혐오 발언의 맥락에서 사회적 규범이 온라인 행동을 어떻게 형성하는지 평가한다.
• 온라인 논의에서 폭력성의 증가 또는 완화를 예측하는 구조적 및 행동적 요인을 규명한다.
• 공동체 중심의 행동을 장려하고 온라인 무례함을 줄이기 위한 간병 전략을 제안한다.

제안 방법

• 폭력적인 반응을 포함한 9,058개의 트위터 대화에서 무작위 샘플로 156,324개의 트윗을 분석하였다.
• 비폭력적 반응 수를 모델링하기 위해 포아송 회귀를 사용하였고(가설 1, 2), 나머지 대화의 폭력성을 예측하기 위해 최소제곱법(OLS) 회귀를 사용하였다(가설 3).
• 주요 예측 변수로는 폭력적인 반응 이전의 사용자 수, 폭력적인 트윗 이후 첫 번째 반응의 폭력성, 대화의 깊이/넓이, 사용자 계정 특성(예: 확인된 상태, 팔로워 수)을 측정하였다.
• 트윗의 폭력성 분류를 위해 Perspective API를 활용하였다.
• 사용자 수준의 특성(예: 계정 연령, 프로필 완성도, 위치, URL 포함 여부)과 네트워크 구조(깊이, 넓이)를 제어하였다.
• 가설 3 분석을 위해 첫 번째 폭력적인 트윗 이후 두 개 이상의 반응이 없는 대화를 제외하여 최종 1,959개의 대화를 확보하였다.

실험 결과

연구 질문

• RQ1 폭력적인 반응 이전에 대화에 참여한 사용자 수가 비폭력적 반응의 가능성에 영향을 미치는가?
• RQ2 폭력적인 트윗 이후 첫 번째 반응의 폭력성이 대화 스레드의 전체 폭력성에 어떤 영향을 미치는가?
• RQ3 대화의 구조적 특성(깊이 및 넓이)이 초반 반응과 이후 폭력성 간의 관계를 어떻게 조절하는가?
• RQ4 사용자 수준의 특성(예: 확인된 상태, 팔로워 수)이 폭력적 콘텐츠에 대한 반응에 어떤 영향을 미치는가?
• RQ5 초기 반응이 형성하는 사회적 규범이 폭력적인 대화의 흐름을 어떻게 결정짓는가?

주요 결과

• 폭력적인 반응 이전에 참여한 사용자 수가 비폭력적 반응과 음의 상관관계가 있다(β = -0.020, p < 0.001), 이는 무관심 효과를 지지한다.
• 폭력적인 트윗 이후 첫 번째 반응이 폭력적인 경우, 나머지 대화의 폭력성이 증가하는 경향이 있다(β = 0.086, p < 0.001), 이는 규범 설정 행동을 시사한다.
• 깊이와 넓이가 높은 대화에서는 나머지 폭력성이 낮게 나타나, 더 큰 대화 구조가 폭력성 증가를 억제할 수 있음을 시사한다.
• 가설 3의 모델은 나머지 폭력성의 6.4%의 분산을 설명한다(R² = 0.064), 반응의 폭력성이 통계적으로 유의미한 예측 변수임을 확인하였다.
• 확인된 사용자는 비폭력적 반응을 더 적게 하는 경향이 있다(β = -0.471, p < 0.001), 그러나 이는 선별 편향 또는 플랫폼 특화 행동일 수 있다.
• 계정 연령과 프로필 완성도(예: 설명 길이)는 반응 행동과 약한 유의미한 상관관계가 있으나, 효과 크기는 작다.