[论文解读] Reporting, Reviewing, and Responding to Harassment on Twitter

J. Nathan Matias, Amy Johnson+4 more|arXiv (Cornell University)|May 13, 2015

Social Media and Politics被引用 51

一句话总结

本研究通过一项为期三周的试点项目，评估了Twitter的骚扰举报系统，期间妇女、行动与媒体组织（WAM!）被授予授权举报人身份。WAM!共审查了811起举报，向Twitter escalated了161起，导致70起封禁、18起警告和1起删除——凸显了平台骚扰内容管理的成效与系统性挑战。

ABSTRACT

When people experience harassment online, from individual threats or invective to coordinated campaigns of harassment, they have the option to report the harassers and content to the platform where the harassment has occurred. Platforms then evaluate harassment reports against terms of use and other policies to decide whether to remove content or take action against the alleged harasser--or not. On Twitter, harassing accounts can be deleted entirely, suspended (with content made unavailable pending appeal or specific changes), or sent a warning. Some platforms, including Twitter and YouTube, grant authorized reporters or trusted flaggers special privileges to identify and report inappropriate content on behalf of others. In November 2014, Twitter granted Women, Action, and the Media (WAM!) this authorized reporter status. In three weeks, WAM! reviewers assessed 811 incoming reports of harassment and escalated 161 reports to Twitter, ultimately seeing Twitter carry out 70 account suspensions, 18 warnings, and one deleted account. This document presents findings from this three-week project; it draws on both quantitative and qualitative methods. Findings focus on the people reporting and receiving harassment, the kinds of harassment that were reported, Twitter's response to harassment reports, the process of reviewing harassment reports, and challenges for harassment reporting processes.

研究动机与目标

• 评估当授权第三方组织参与时，Twitter骚扰举报系统的有效性和挑战。
• 理解所举报的骚扰类型及其与Twitter政策定义的一致性。
• 考察可信第三方组织在识别和标记网络骚扰中的作用。
• 识别社交媒体平台举报工作流程与内容审核结果中的系统性漏洞。
• 为更公平、更有效的在线骚扰应对机制提供政策与平台设计参考。

提出的方法

• Twitter授予WAM!授权举报人身份，使其能够代表受害者审查并上报骚扰举报。
• 团队在三周内使用既定标准对811起骚扰举报进行审查，评估其严重性与政策违规情况。
• 仅当举报符合潜在政策违规的阈值（如威胁或有组织的骚扰）时，才向Twitter escalated。
• Twitter的响应根据内部审核决定被归类为封禁、警告或删除。
• 对举报内容及审核结果进行定性分析，以识别模式与不一致之处。
• 汇总并分析举报量、escalation率及平台响应数据，以发现趋势与系统性洞察。

实验结果

研究问题

• RQ1 当由可信第三方组织（如WAM!）操作时，举报系统的有效性如何？
• RQ2 最常被举报的骚扰类型是什么？它们与Twitter政策定义的匹配度如何？
• RQ3 授权举报人提交的举报中，escalation率及平台响应率如何？
• RQ4 骚扰举报的审查与escalation过程中出现了哪些挑战？
• RQ5 Twitter的审核措施（如封禁、警告）与举报内容的严重性相比如何？

主要发现

• WAM!在三周内审查了811起骚扰举报，表明第三方举报机制在高流量平台中具备可扩展性。
• 在811起举报中，有161起被escalated至Twitter，escalation率为19.8%，表明许多举报需要进一步验证。
• Twitter对161起escalated举报中的89起采取了行动，导致70起封禁、18起警告和1起账号删除。
• 大多数举报内容涉及针对性攻击、威胁或有组织的骚扰活动。
• 举报流程中的挑战包括对骚扰定义不一致、响应延迟以及难以验证意图或语境。
• 尽管举报量巨大，但仅有少数举报导致平台采取行动，凸显了审核效率与政策执行中的漏洞。