[논문 리뷰] Reporting, Reviewing, and Responding to Harassment on Twitter

J. Nathan Matias, Amy Johnson외 4명|arXiv (Cornell University)|2015. 05. 13.

Social Media and Politics인용 수 51

한 줄 요약

이 연구는 여성, 행동, 미디어(Women, Action, and the Media, WAM!)가 승인된 보고자 자격을 부여받은 3주간의 시범 프로젝트를 통해 트위터의 괴롭힘 신고 시스템을 평가한다. WAM!은 811건의 신고를 검토하였으며, 트위터에 161건을 승격시켰고, 그 결과 70건의 정지, 18건의 경고, 1건의 삭제 조치가 내려졌다. 이는 플랫폼 기반 괴롭힘 규제의 효과성과 체계적 과제를 동시에 드러낸다.

ABSTRACT

When people experience harassment online, from individual threats or invective to coordinated campaigns of harassment, they have the option to report the harassers and content to the platform where the harassment has occurred. Platforms then evaluate harassment reports against terms of use and other policies to decide whether to remove content or take action against the alleged harasser--or not. On Twitter, harassing accounts can be deleted entirely, suspended (with content made unavailable pending appeal or specific changes), or sent a warning. Some platforms, including Twitter and YouTube, grant authorized reporters or trusted flaggers special privileges to identify and report inappropriate content on behalf of others. In November 2014, Twitter granted Women, Action, and the Media (WAM!) this authorized reporter status. In three weeks, WAM! reviewers assessed 811 incoming reports of harassment and escalated 161 reports to Twitter, ultimately seeing Twitter carry out 70 account suspensions, 18 warnings, and one deleted account. This document presents findings from this three-week project; it draws on both quantitative and qualitative methods. Findings focus on the people reporting and receiving harassment, the kinds of harassment that were reported, Twitter's response to harassment reports, the process of reviewing harassment reports, and challenges for harassment reporting processes.

연구 동기 및 목표

• 승인된 보고자로서의 자격을 부여받은 WAM!이 운영하는 트위터의 괴롭힘 신고 시스템의 효과성과 과제를 평가하는 것.
• 신고된 괴롭힘의 유형과 트위터가 승격된 보고에 어떻게 대응하는지 이해하는 것.
• 신뢰할 수 있는 제3자 기관이 온라인 괴롭힘을 식별하고 신고하는 데서 수행하는 역할을 분석하는 것.
• 소셜 미디어 플랫폼의 보고 워크플로우와 조정 결과에 대한 체계적 격차를 규명하는 것.
• 더 공정하고 효과적인 온라인 괴롭힘 대응 메커니즘을 위한 정책 및 플랫폼 설계를 뒷받침하는 것.

제안 방법

• 트위터는 WAM!에게 피해자 대신 괴롭힘 보고를 검토하고 승격하는 데 대한 승인된 보고자 자격을 부여하였다.
• 팀은 3주 동안 정의된 기준에 따라 심각도와 정책 위반 여부를 기준으로 811건의 들어온 괴롭힘 보고를 검토하였다.
• 위협이나 조직적 괴롭힘과 같은 잠재적 정책 위반 기준을 충족할 경우에만 보고를 트위터에 승격시켰다.
• 트위터의 반응은 내부 조정 결정에 따라 정지, 경고, 삭제로 분류하고 추적하였다.
• 패턴과 일관성 없는 점을 이해하기 위해 보고된 내용과 조정 결과에 대한 정성적 분석을 수행하였다.
• 보고 수량, 승격 비율, 플랫폼 반응 데이터를 집계하여 추세와 체계적 통찰을 분석하였다.

실험 결과

연구 질문

• RQ1 신뢰할 수 있는 제3자 기관인 WAM!이 운영할 경우, 보고 시스템의 효과성은 어떠한가?
• RQ2 가장 흔히 보고되는 괴롭힘의 유형은 무엇이며, 트위터의 정책 정의와 얼마나 일치하는가?
• RQ3 승인된 보고자가 제출한 보고에 대해 승격 및 플랫폼 반응의 비율은 어떠한가?
• RQ4 괴롭힘 보고의 검토 및 승격 과정에서 나타나는 과제는 무엇인가?
• RQ5 보고된 콘텐츠의 심각도와 비교해 트위터의 조정 조치(예: 정지, 경고)는 어떻게 나타나는가?

주요 결과

• WAM!은 3주 동안 811건의 괴롭힘 보고를 검토하여 고용량 플랫폼에 대한 제3자 보고의 확장성을 입증하였다.
• 811건의 보고 중 161건이 트위터에 승격되었으며, 이는 19.8%의 승격 비율을 의미한다. 이는 많은 보고가 추가 검증이 필요하다는 것을 시사한다.
• 161건의 승격 보고 중 트위터가 조치를 취한 것은 89건으로, 결과적으로 70건의 정지, 18건의 경고, 1건의 계정 삭제가 이루어졌다.
• 대부분의 보고된 콘텐츠는 대상 지정 괴롭힘, 위협, 또는 조직적 괴롭힘 캠페인을 포함하고 있었다.
• 보도 과정에서의 과제로는 괴롭힘의 정의가 일관되지 않음, 반응 지연, 의도나 맥락 확인의 어려움 등이 있었다.
• 높은 보고 수량에도 불구하고 플랫폼 조치로 이어진 보고는 일부에 그쳐, 조정 효율성과 정책 집행의 격차가 드러났다.