[論文レビュー] Reporting, Reviewing, and Responding to Harassment on Twitter

J. Nathan Matias, Amy Johnson+4 more|arXiv (Cornell University)|May 13, 2015

Social Media and Politics被引用数 51

ひとこと要約

本研究では、女性、活動家、メディア（WAM!）が承認レポーターとしての資格を付与された3週間のパイロットプロジェクトを通じて、Twitterのいじめ通報システムの評価が行われた。WAM!は811件の通報をレビューし、そのうち161件をTwitterにエスカレートした。その結果、70件のアカウント停止、18件の警告、1件のアカウント削除が行われた。これは、プラットフォームベースのいじめ対応の有効性と、依然として存在するシステム的課題を示している。

ABSTRACT

When people experience harassment online, from individual threats or invective to coordinated campaigns of harassment, they have the option to report the harassers and content to the platform where the harassment has occurred. Platforms then evaluate harassment reports against terms of use and other policies to decide whether to remove content or take action against the alleged harasser--or not. On Twitter, harassing accounts can be deleted entirely, suspended (with content made unavailable pending appeal or specific changes), or sent a warning. Some platforms, including Twitter and YouTube, grant authorized reporters or trusted flaggers special privileges to identify and report inappropriate content on behalf of others. In November 2014, Twitter granted Women, Action, and the Media (WAM!) this authorized reporter status. In three weeks, WAM! reviewers assessed 811 incoming reports of harassment and escalated 161 reports to Twitter, ultimately seeing Twitter carry out 70 account suspensions, 18 warnings, and one deleted account. This document presents findings from this three-week project; it draws on both quantitative and qualitative methods. Findings focus on the people reporting and receiving harassment, the kinds of harassment that were reported, Twitter's response to harassment reports, the process of reviewing harassment reports, and challenges for harassment reporting processes.

研究の動機と目的

• 承認レポーターとしての権限が与えられた場合のTwitterのいじめ通報システムの有効性と課題を評価すること。
• 通報されたいじめの種別と、Twitterがエスカレートされた通報に対してどのように対応するかを理解すること。
• 信頼できる第三者機関がオンラインいじめを特定・通報する役割が果たす意義を検討すること。
• ソーシャルメディアプラットフォームにおける通報ワークフローとモデレーション結果に存在するシステム的ギャップを特定すること。
• より公平で効果的なオンラインいじめ対応メカニズムのための政策立案とプラットフォーム設計を支援すること。

提案手法

• TwitterはWAM!に承認レポーターとしての資格を付与し、被害者に代わっていじめ通報をレビュー・エスカレートする権限を付与した。
• チームは3週間の期間中に、深刻度およびポリシー違反の基準を明確にした基準に従って、811件のいじめ通報をレビューした。
• 脅しや組織的いじめの兆候があると判断された場合にのみ、通報はTwitterにエスカレートされた。
• Twitterの対応は、内部モデレーション意思決定に基づき、アカウント停止、警告、削除の3つに分類され、追跡された。
• 内容の報告とモデレーション結果の定性的分析を実施し、パターンや一貫性の欠如を理解した。
• 通報件数、エスカレーション率、プラットフォームの対応に関するデータを集約し、傾向とシステム的洞察を分析した。

実験結果

リサーチクエスチョン

• RQ1 WAM!のような信頼できる第三者機関が運営する場合、通報システムはどの程度有効であるか？
• RQ2 最も一般的に通報されるいじめの種別は何か？また、それらはTwitterのポリシー定義と一致しているか？
• RQ3 承認レポーターが通報した通報に対して、プラットフォームのエスカレーション率と対応率はどのようになっているか？
• RQ4 いじめ通報のレビューとエスカレーションプロセスで生じる課題は何か？
• RQ5 報告された内容の深刻度と比較して、Twitterのモデレーション対応（例：アカウント停止、警告）は適切に反映されているか？

主な発見

• WAM!は3週間で811件のいじめ通報をレビューした。これは、高スケールのプラットフォームにおいて、第三者機関による通報がスケーラブルであることを示している。
• 811件の通報のうち161件がTwitterにエスカレートされた。これは19.8％のエスカレーション率を示しており、多くの通報がさらなる検証を要している可能性を示している。
• エスカレートされた161件の通報のうち、Twitterは89件に対して対応をとった。その結果、70件のアカウント停止、18件の警告、1件のアカウント削除が行われた。
• 報告された内容の大部分は、標的型の攻撃、脅し、または組織的いじめキャンペーンを含んでいた。
• 通報プロセスにおける課題には、いじめの定義が一貫していなかったり、対応に遅延が生じたり、意図や文脈の特定が困難だったりする点が含まれる。
• 高い通報件数にもかかわらず、プラットフォーム対応につながったのはごくわずかな割合にとどまり、モデレーションの効率性とポリシーの実行にギャップが存在していることが浮き彫りになった。