[論文レビュー] Hate Raids on Twitch: Echoes of the Past, New Modalities, and Implications for Platform Governance

Catherine Y. Han, Joseph Seering+3 more|arXiv (Cornell University)|Jan 10, 2023

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本研究は、Twitchにおける嫌がらせレース——差別の的で意図的な攻撃で、ストリーマーのチャットを人種的・ユダヤ人差別的発言で圧倒するもの——を、大規模なデータと、差別を受ける立場にあるストリーマーやツール開発者のインタビューを用いて調査する。その結果、大多数のレースが差別的でLGBTQ+および黒人ストリーマーを標的としている一方で、一部のレースは文化的ないじりに似ており、これによりコミュニティ主導の防御戦略が生じ、プラットフォームとコミュニティの協働によるガバナンスの必要性が浮き彫りになる。

ABSTRACT

In the summer of 2021, users on the livestreaming platform Twitch were targeted by a wave of "hate raids," a form of attack that overwhelms a streamer's chatroom with hateful messages, often through the use of bots and automation. Using a mixed-methods approach, we combine a quantitative measurement of attacks across the platform with interviews of streamers and third-party bot developers. We present evidence that confirms that some hate raids were highly-targeted, hate-driven attacks, but we also observe another mode of hate raid similar to networked harassment and specific forms of subcultural trolling. We show that the streamers who self-identify as LGBTQ+ and/or Black were disproportionately targeted and that hate raid messages were most commonly rooted in anti-Black racism and antisemitism. We also document how these attacks elicited rapid community responses in both bolstering reactive moderation and developing proactive mitigations for future attacks. We conclude by discussing how platforms can better prepare for attacks and protect at-risk communities while considering the division of labor between community moderators, tool-builders, and platforms.

研究の動機と目的

• Twitchにおける嫌がらせレースの技術的・社会的特徴、特に差別を受けるアイデンティティを標的にする仕組みを理解すること。
• 嫌がらせレース中にLGBTQ+および黒人ストリーマーが経験する生活の実態、およびそれらの攻撃が彼らの安全とコミュニティ意識に与える影響を検討すること。
• 嫌がらせレースへのストリーマー、コミュニティモデレーター、および第三者ツール開発者の反応を分析し、反応的および予防的対策の両方を含む戦略を明らかにすること。
• 協調的な嫌がらせへの対応において、プラットフォーム、コミュニティ、およびパワー・ユーザーの間でどのように労働分担がなされているかを検討し、プラットフォームガバナンスにおける構造的改善を提言すること。
• 最も弱い立場にあるユーザーのニーズを最優先に据える、交差的でユーザー中心の設計を提唱すること。

提案手法

• 9,664の主要なTwitchチャンネルのチャットデータを大規模に定量分析し、メッセージの内容とタイミングのパターンに基づいて嫌がらせレースを検出・特徴づける。
• コミュニティが集約した既知の悪意あるボットのリストを用いて、嫌がらせレース活動を特定・フィルタリングし、協調的攻撃の検出を可能にする。
• LGBTQ+および/または黒人ストリーマー7名に対して、嫌がらせレースの感情的・社会的・構造的影響を理解するために、深掘りの半構造的インタビューを実施。
• 第三者ボット開発者2名にインタビューし、コミュニティが自ら開発したモデレーションツールの技術的設計と展開を検討。
• 定性的な知見と定量的データを統合し、嫌がらせレースの二重のモードを特定：差別的攻撃と文化的いじりの行動。
• Twitchストリーマーのタグを分析し、攻撃者が自らのコミュニティタグ（例：黒人、LGBTQ+）を用いて差別を受けるコミュニティを標的にしたかを評価。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 嫌がらせレースの基本的特徴とは何か——どのように組織され、誰を標的にしているのか？
• RQ2 RQ2: 嫌がらせレースは、差別を受けるコミュニティのメンバー、特に黒人およびLGBTQ+ストリーマーにどのように影響を与えるか？
• RQ3 RQ3: ストリーマー、コミュニティモデレーター、およびツール開発者といった異なるステークホルダーは、嫌がらせレースに対してどのように反応したか。どのような戦略が生じたか？
• RQ4 RQ4: プラットフォームは、コミュニティの知識とツールをどのようにより効果的にガバナンスモデルに統合できるか？
• RQ5 RQ5: 構造的不平等とプラットフォーム設計は、嫌がらせレースを助長するか、あるいは緩和するか、それぞれの役割は何か？

主な発見

• Twitchにおける嫌がらせレースの98％のメッセージがアイデンティティに基づく攻撃であり、特に反黒人差別とユダヤ人差別が最も一般的なイデオロギーであった。
• 大多数のレースが差別的であるにもかかわらず、攻撃者はしばしば標的を選びかねず、しかしストリーマーのタグ（例：黒人、LGBTQ+）を用いて差別を受けるコミュニティを特定した証拠がある。
• LGBTQ+および黒人ストリーマーは、嫌がらせレースが非常に標的的で、継続的であり、時にはスワッティング（警察の不審な出動）などのオフラインの脅威を含む、広範な嫌がらせキャンペーンの一部であると報告した。
• コミュニティは、一時停止・ブロックといった反応的モデレーションに加え、リアルタイムで嫌がらせコンテンツをフィルタリングする第三者ボットの開発という予防的対策を講じた。
• Seryのようなパワー・ユーザーおよびコミュニティツール開発者が、レースの緩和において重要な役割を果たしており、プラットフォームはこうした貢献者と協議し、報酬を支払うべきである。
• 本研究は、ガバナンスのギャップを浮き彫りにした：Twitchのようなプラットフォームは、コミュニティが特定した脅威に対してしばしば対応せず、結果として持続不可能なボランティア主導の防御に依存することになる。