[논문 리뷰] Quarantined! Examining the Effects of a Community-Wide Moderation Intervention on Reddit

Eshwar Chandrasekharan, Shagun Jhaver외 2명|arXiv (Cornell University)|2020. 09. 24.

Hate Speech and Cyberbullying Detection인용 수 7

한 줄 요약

이 연구는 레딧의 '격리' 조치—논란이 있는 서브레딧에 대한 가시성과 접근성을 제한하는 설계적 장벽—가 r/TheRedPill(TRP)와 r/The_Donald(TD)에 미치는 영향을 평가한다. 8,500만 건 이상의 게시물에 대한 인과적 추론을 적용한 결과, 격리는 각각 신규 사용자 유입을 79.5%와 58% 감소시켰으며, 기존 사용자들의 미생의 언어 수준은 변화가 없었다. 이는 격리 조치가 내부 논의 양상에 영향을 주지 않으면서도 공동체 성장을 효과적으로 제한할 수 있음을 시사한다.

ABSTRACT

Should social media platforms override a community's self-policing when it repeatedly break rules? What actions can they consider? In light of this debate, platforms have begun experimenting with softer alternatives to outright bans. We examine one such intervention called quarantining, that impedes direct access to and promotion of controversial communities. Specifically, we present two case studies of what happened when Reddit quarantined the influential communities r/TheRedPill (TRP) and r/The_Donald (TD). Using over 85M Reddit posts, we apply causal inference methods to examine the quarantine's effects on TRP and TD. We find that the quarantine made it more difficult to recruit new members: new user influx to TRP and TD decreased by 79.5% and 58%, respectively. Despite quarantining, existing users' misogyny and racism levels remained unaffected. We conclude by reflecting on the effectiveness of this design friction in limiting the influence of toxic communities and discuss broader implications for content moderation.

연구 동기 및 목표

• 레딧의 공동체 전반에 걸친 조정 조치인 '격리'가 논란이 있는 서브레딧의 사용자 모집과 논의에 미치는 영향을 평가하는 것.
• 격리 조치—금지보다 더 부드러운 대안—가 유해 콘텐츠의 확산을 억제하면서도 자유로운 표현을 억압하지 않는지 평가하는 것.
• 이러한 설계적 장벽이 독성 공동체 내 기존 사용자들의 행동을 변화시키는지, 아니면 오직 신규 사용자 유입에만 영향을 미치는지 이해하는 것.
• 온라인 플랫폼의 콘텐츠 조정 전략에 있어 격리 조치의 보다 광범위한 함의를 탐구하는 것.

제안 방법

• 차이의 차이(DiD) 프레임워크를 사용하여 제어 공동체와 함께, 격리 전후의 사용자 행동 변화를 분석하기 위해 인과적 추론 기법을 적용하였다.
• TRP와 TD에서 올해 8,500만 건 이상의 레딧 게시물을 수집하고 분석하였으며, 타임스탬프, 사용자 활동, 게시물 수준의 정서 분석을 통해 사용자 유입과 논의 품질을 추적하였다.
• 진정으로 새로운 사용자인지 재활성화된 사용자인지 구분하기 위해 30일 간격의 버퍼 기간을 기반으로 '신규 사용자'를 정의하여 모집 추세를 정확하게 측정하였다.
• 경고 화면 표시, 검색 결과 및 r/all 피드에서의 제거와 같은 인터페이스 수준의 설계 변화를 격리 조치의 핵심 메커니즘으로 사용하였다.
• 레딧의 API와 검색 색인 행동을 분석하여 격리된 서브레딧이 일반 사용자에게 더 이상 표시되지 않음을 확인함으로써 가시성과 접근성 변화를 추적하였다.
• 사용자 댓글에 대한 NLP 기반 정서 분석을 통해 격리 전후의 미생의 및 인종 차별 수준을 중심으로 논의의 독성 수준을 측정하였다.

실험 결과

연구 질문

• RQ1 격리 조치는 r/TheRedPill과 r/The_Donald과 같은 논란이 있는 서브레딧으로의 신규 사용자 모집 속도에 어떻게 영향을 미치는가?
• RQ2 격리 조치는 이러한 공동체 내 기존 사용자들 사이의 미생의 또는 인종 차별적 논의 수준을 낮추는가?
• RQ3 이 조치는 격리된 서브레딧의 콘텐츠가 플랫폼 전반에서의 가시성과 탐색 가능성에 얼마나 영향을 미치는가?
• RQ4 특히 고립성과 사용자 유지를 중심으로 볼 때, 격리된 공동체 내 장기적인 행동 및 사회적 역학은 어떠한가?

주요 결과

• 격리는 r/TheRedPill(TRP)의 신규 사용자 유입을 79.5% 감소시켜 공동체의 자연스러운 발견을 통한 성장을 크게 제한하였다.
• r/The_Donald(TD)의 신규 사용자 모집은 격리 이후 58% 감소하여 TRP에 비해 다소 덜 뚜렷한 영향을 미쳤지만, 여전히 상당한 효과를 보였다.
• 신규 회원의 감소에도 불구하고, TRP와 TD의 기존 사용자들은 높은 수준의 미생의 및 인종 차별적 논의를 유지하며 내부 독성에 변화가 없음을 보였다.
• 격리 조치는 검색 결과, r/all, 그리고 구독 기반 외 피드에서의 제거를 통해 두 공동체를 레딧 전체에서 효과적으로 격리시켰다.
• 기존 회원들의 활동이나 참여도에 유의미한 증가가 발생하지 않아, 조치가 반발이나 조직화를 유도하지는 않았다.
• 연구 결과는 격리 조치가 기존 논의의 톤을 변화시키지 않으면서도 공동체 성장을 제한하는 데 효과적인 설계적 장벽 전략임을 뒷받침하며, 검열과 무관심 사이의 중간 전략을 제공한다.