[論文レビュー] User Engagement and the Toxicity of Tweets

Nazanin Salehabadi, Anne Groggel+3 more|arXiv (Cornell University)|Nov 7, 2022

Hate Speech and Cyberbullying Detection被引用数 9

ひとこと要約

本研究では、GoogleのPerspective APIを用いて85,300件のTwitter会話の毒性を分類し、毒性のある会話は長く、参加者もより多いことが判明した。特に、初期の有毒つぶやきに続く有毒な返信がある場合に顕著である。有毒な返信の順序が会話のトーンに強く影響し、最初の返信が有毒な場合、全体の毒性が増幅される。これは、非有毒な返信がオンラインの不遜な言動を緩和する可能性を示唆している。

ABSTRACT

Twitter is one of the most popular online micro-blogging and social networking platforms. This platform allows individuals to freely express opinions and interact with others regardless of geographic barriers. However, with the good that online platforms offer, also comes the bad. Twitter and other social networking platforms have created new spaces for incivility. With the growing interest on the consequences of uncivil behavior online, understanding how a toxic comment impacts online interactions is imperative. We analyze a random sample of more than 85,300 Twitter conversations to examine differences between toxic and non-toxic conversations and the relationship between toxicity and user engagement. We find that toxic conversations, those with at least one toxic tweet, are longer but have fewer individual users contributing to the dialogue compared to the non-toxic conversations. However, within toxic conversations, toxicity is positively associated with more individual Twitter users participating in conversations. This suggests that overall, more visible conversations are more likely to include toxic replies. Additionally, we examine the sequencing of toxic tweets and its impact on conversations. Toxic tweets often occur as the main tweet or as the first reply, and lead to greater overall conversation toxicity. We also find a relationship between the toxicity of the first reply to a toxic tweet and the toxicity of the conversation, such that whether the first reply is toxic or non-toxic sets the stage for the overall toxicity of the conversation, following the idea that hate can beget hate.

研究の動機と目的

• 毒性のある会話と非毒性の会話におけるユーザー参加の違いを検討すること。
• 有毒つぶやきの順序が会話のダイナミクスとユーザー参加に与える影響を調査すること。
• 有毒つぶやきに対する最初の返信の性質が、会話全体の毒性に与える影響を評価すること。
• 毒性のある会話に参加するにあたって関連するアカウントレベルの特徴を同定すること。
• ソーシャルメディアの相互作用における行動的トリガーを理解することで、オンラインの毒性を低減するツールの設計を支援すること。

提案手法

• GoogleのPerspective APIを用いて、メインつぶやきおよび直接の返信に対して二値の毒性ラベル（有毒 vs. 非有毒）を割り当てた。
• 少なくとも1つのつぶやき（メインまたは返信）が閾値を超える毒性スコアを示した場合、会話を有毒と分類した。
• 各会話における有毒つぶやきの数を全つぶやき数で割ることで、連続的な毒性スコアを構築した。
• ユーザーのアカウント特徴を制御した上で、最初の返信の毒性がユーザー参加に与える影響を回帰モデルを用いて分析した。
• 最初の有毒つぶやきおよび最初の返信のインデックス（順序）を追跡し、会話参加へのタイミングの影響を評価した。
• 即時の会話的ダイナミクスを保証するため、48時間以内の直接の返信に限定して分析を行った。

実験結果

リサーチクエスチョン

• RQ1 Twitterにおける毒性のある会話と非毒性の会話の長さとユーザー参加は、どのように異なるか？
• RQ2 有毒つぶやきに対する最初の返信の毒性と、会話全体の毒性の関係は何か？
• RQ3 有毒つぶやきのタイミングと順序は、ユーザー参加および会話のトーンにどのように影響するか？
• RQ4 毒性のある会話に参加するにあたって、どのユーザーのアカウント特徴が関連しているか？
• RQ5 非有毒な返信は、オンライン会話における毒性の拡大を防ぐ対策として機能する可能性はあるか？

主な発見

• 毒性のある会話は非毒性の会話よりも有意に長く、平均12.3件の返信を含む一方、非毒性の会話では平均8.7件であった。
• 毒性のある会話内では、毒性スコアが高いほどユーザー参加が増加しており、これは高毒性のスレッドに多くのユーザーが関与することを示している。
• 有毒つぶやきに対する最初の直接返信が有毒である場合、予測されるユーザー参加は0.82減少する（p < 0.001）。これは、有毒な返信が参加を減少させることを示唆している。
• 有毒つぶやきに対する最初の返信が非有毒である会話では、より高いユーザー参加が観察された。これは、非有毒な返信が毒性を安定化または低減する可能性があることを示している。
• プロフィール画像、URL、または公式認証ステータスがあるアカウントは、有毒なコンテンツを投稿する可能性が有意に低いことが判明した。これは、識別可能性が高いと毒性が低下することを示している。
• 有毒つぶやきは、しばしばメインつぶやきまたは最初の返信として現れ、早期に配置されることで、会話全体の毒性を高める前例を設定することが多い。