[論文レビュー] Understanding the Bystander Effect on Toxic Twitter Conversations

Ana Aleksandric, Mohit Singhal+2 more|arXiv (Cornell University)|Nov 19, 2022

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本研究では、ツイッター上のグループダイナミクスが、傍観者効果と初期反応の規範を通じて、いじめや嫌がらせの毒性をどのように拡大させるかを調査している。9,000件の会話にまたがる156,324件のツイートのサンプルを用いて分析した結果、参加者が増えると非毒な反応が減少する（傍観者効果）、初期の毒消極的な返信が会話全体の毒性を高める傾向があることが判明した。これは、オンライン行動を規定する社会的規範が中心的要因であることを示している。

ABSTRACT

In this study, we explore the power of group dynamics to shape the toxicity of Twitter conversations. First, we examine how the presence of others in a conversation can potentially diffuse Twitter users' responsibility to address a toxic direct reply. Second, we examine whether the toxicity of the first direct reply to a toxic tweet in conversations establishes the group norms for subsequent replies. By doing so, we outline how bystanders and the tone of initial responses to a toxic reply are explanatory factors which affect whether others feel uninhibited to post their own abusive or derogatory replies. We test this premise by analyzing a random sample of more than 156k tweets belonging to ~9k conversations. Central to this work is the social psychological research on the "bystander effect" documenting that the presence of bystanders has the power to alter the dynamics of a social situation. If the first direct reply reaffirms the divisive tone, other replies may follow suit. We find evidence of a bystander effect, with our results showing that an increased number of users participating in the conversation before receiving a toxic tweet is negatively associated with the number of Twitter users who responded to the toxic reply in a non-toxic way. We also find that the initial responses to toxic tweets within conversations is of great importance. Posting a toxic reply immediately after a toxic comment is negatively associated with users posting non-toxic replies and Twitter conversations becoming increasingly toxic.

研究の動機と目的

• ツイッター会話における傍観者の存在が、毒消極的な返信に対して非毒な反応をとる可能性に与える影響を調査すること。
• 毒消極的なツイートに対する初期の反応が、その後の会話全体の毒性に影響を与える規範を設定するかどうかを検討すること。
• 特にネットいじめや嫌がらせの文脈において、社会的規範がオンライン行動に与える役割を評価すること。
• オンラインディスカッションにおける毒性の拡大または緩和を予測する構造的・行動的要因を同定すること。
• 望ましい行動を促進し、オンラインの不遜な行動を減らすための介入を支援すること。

提案手法

• 毒消極的な返信を含む9,058件のツイッター会話から、ランダムに抽出した156,324件のツイートを分析した。
• 非毒な返信の数（H1, H2）をモデル化するためにポアソン回帰を用い、残りの会話全体の毒性（H3）を予測するためにOLS回帰を用いた。
• 主な予測変数を測定した：毒消極的な返信の前に参加していたユーザー数、毒消極的なツイートの直後における最初の返信の毒性、会話の深さ・広がり、ユーザーのアカウント特徴（例：公式認証、フォロワー数）。
• ツイートの自動毒性分類にPerspective APIを採用した。
• ユーザー層の特徴（例：アカウント作成日、プロフィールの完成度、場所、URLの有無）およびネットワーク構造（深さ、広がり）を制御した。
• H3分析の対象から、最初の毒消極的なツイートの直後に2件未満の返信がある会話は除外し、1,959件の会話を残した。

実験結果

リサーチクエスチョン

• RQ1 毒消極的な返信がなされる直前までに会話に参加しているユーザー数が、非毒な反応の可能性を低下させるか？
• RQ2 毒消極的なツイートの直後に返される最初の返信の毒性が、会話スレッド全体の毒性にどのように影響するか？
• RQ3 会話の構造（深さと広がり）が、初期の反応とその後の毒性との関係をどの程度緩和するか？
• RQ4 ユーザー層の特徴（例：公式認証ステータス、フォロワー数）が、毒消極的なコンテンツへの反応に与える影響は何か？
• RQ5 初期の返信によって確立される社会的規範が、毒消極的な会話の推移に果たす役割は何か？

主な発見

• 毒消極的な返信がなれる直前までに参加しているユーザー数は、非毒な反応と負の相関がある（β = -0.020, p < 0.001）。これは、傍観者効果を支持する。
• 毒消極的なツイートの直後に返される最初の返信が毒消極的であると、残りの会話全体の毒性が上昇する（β = 0.086, p < 0.001）。これは、規範設定行動を示している。
• 深さと広がりが大きい会話では、残りの毒性が低くなる傾向があり、これはより大きな会話構造が毒性の拡大を抑制する可能性を示している。
• H3のモデルは、残りの毒性の分散の6.4％を説明している（R² = 0.064）。返信の毒性は統計的に有意な予測要因である。
• 公式認証済みユーザーは、非毒な返信を投稿する可能性が低い（β = -0.471, p < 0.001）。これは選択バイアスまたはプラットフォーム固有の行動に起因する可能性がある。
• アカウントの年数やプロフィールの完成度（例：説明文の長さ）は、反応行動と弱いが有意な相関があるが、効果サイズは小さい。