[論文レビュー] Collective moderation of hate, toxicity, and extremity in online discussions

Jana Lasser, Alina Herderich+4 more|arXiv (Cornell University)|Mar 1, 2023

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本研究は、2015年の難民危機期前后にわたり、ドイツ語のTwitter議論13万件の4年間のデータセットを用いて、オンライン討論における嫌悪、有毒性、極端化を低減するための集団的モデレーション戦略を調査している。その結果、事実に基づかないが中傷を含まない率直な意見表明が、マイクロ、メソ、マクロの各レベルで、従来のカウンタースピーチ戦略を上回り、後続の嫌悪や有毒性を最も効果的に低減することが判明した。これは、低ハードルの市民的対応としての有効性を示している。

ABSTRACT

In the digital age, hate speech poses a threat to the functioning of social media platforms as spaces for public discourse. Top-down approaches to moderate hate speech encounter difficulties due to conflicts with freedom of expression and issues of scalability. Counter speech, a form of collective moderation by citizens, has emerged as a potential remedy. Here, we aim to investigate which counter speech strategies are most effective in reducing the prevalence of hate, toxicity, and extremity on online platforms. We analyze more than 130,000 discussions on German Twitter starting at the peak of the migrant crisis in 2015 and extending over four years. We use human annotation and machine learning classifiers to identify argumentation strategies, ingroup and outgroup references, emotional tone, and different measures of discourse quality. Using matching and time-series analyses we discern the effectiveness of naturally observed counter speech strategies on the micro-level (individual tweet pairs), meso-level (entire discussions) and macro-level (over days). We find that expressing straightforward opinions, even if not factual but devoid of insults, results in the least subsequent hate, toxicity, and extremity over all levels of analyses. This strategy complements currently recommended counter speech strategies and is easy for citizens to engage in. Sarcasm can also be effective in improving discourse quality, especially in the presence of organized extreme groups. Going beyond one-shot analyses on smaller samples prevalent in most prior studies, our findings have implications for the successful management of public online spaces through collective civic moderation.

研究の動機と目的

• オンライン政治的議論における嫌悪、有毒性、極端化を低減するための、どのカウンタースピーチ戦略が最も効果的かを調査すること。
• 市民主導のモデレーションが大規模なソーシャルメディア議論に与える長期的で現実世界の影響を分析すること。
• 組織的極端主義グループ（例：Reconquista Germanica および Reconquista Internet）が、さまざまな議論戦略の有効性に与える影響を評価すること。
• プラットフォーム主導のモデレーションに依存せず、市民やコミュニティが集団的市民的モデレーションに参加する方法を、根拠に基づいて示すこと。
• 小規模かつ一時的な実験にとどまらず、現実世界のデータを用いて4年間にわたる議論ダイナミクスを分析することで、長期的かつ現実的な影響を検証すること。

提案手法

• ドイツの報道機関、ジャーナリスト、政治家からなる115万469件のツイートを含むコーパスを構築し、2015年から2018年の4年間にわたり議論ツリーを形成した。
• 人間によるアノテーションと機械学習分類器を用いて、議論戦略、他集団／自集団への言及、感情的トーン、議論の質を測る指標を特定した。
• マッチング分析および時系列解析（ARLDモデリングを含む）を適用し、マイクロ（ツイートペア）、メソ（完全な議論）、マクロ（日次傾向）の各レベルで、議論の次元が嫌悪、有毒性、極端化に与える因果的影響を評価した。
• 組織的極端主義グループの存在を示す指標（RGおよびRI）を組み込み、カウンタースピーチの有効性に及ぼす相互作用効果を検証した。
• 統計モデルを用いて、発言者の極端さやトピックなどの交絡要因を制御した上で、特定の議論戦略の影響を分離した。
• 再現可能性を確保するため、すべての推定データとコードを物的移転契約のもとで公開し、データはOSF経由、コードはGitHubで入手可能とした。

実験結果

リサーチクエスチョン

• RQ1 どのカウンタースピーチ戦略が、オンライン政治的議論における後続の嫌悪、有毒性、極端化を最も効果的に低減するか？
• RQ2 さまざまな議論戦略の効果は、マイクロレベルの相互作用、メソレベルの議論構造、マクロレベルの日次傾向においてどのように異なるか？
• RQ3 組織的極端主義グループ（例：Reconquista Germanica および Reconquista Internet）の存在が、カウンタースピーチ戦略の有効性にどのように影響するか？
• RQ4 事実の正確さにかかわらず中傷を含まない率直な意見表明は、従来推奨されている合理的または共感を求めるカウンタースピーチアプローチよりも効果的か？
• RQ5 皮肉は、集団的に動員された極端主義的アクターが存在する状況において、議論の質を向上させる有効なツールとして機能するか？

主な発見

• 事実に基づかないが中傷を含まない率直な意見表明は、マイクロ、メソ、マクロの全分析レベルで、嫌悪、有毒性、極端化の後続レベルを最も低く抑える。
• この戦略は、合理的な訴えや共感、道徳的原則に基づくアプローチといった、従来推奨されているアプローチを上回り、議論の有毒性を低減する点で優れている。
• 皮肉は、組織的極端主義グループが活発に活動している状況において、議論の質を向上させるのに有効であることが判明し、一貫した誤情報への対抗手段としての可能性を示唆している。
• Reconquista Germanica（RG）および Reconquista Internet（RI）といった組織的極端主義グループの存在は、カウンタースピーチ戦略の有効性に顕著な調節効果を示し、戦略の有効性は議論の次元によって変動する。
• 本研究の結果は、複数の分析レベルおよび時間枠においても強く、市民モデレーション戦略の長期的かつ現実世界での影響を示している。
• 結果は、公式なプラットフォームモデレーションや高い認知的負荷に依存せずに、市民やコミュニティが集団的モデレーションに参加するための実行可能で根拠に基づいたガイダンスを提供している。