[論文レビュー] Pathways through Conspiracy: The Evolution of Conspiracy Radicalization through Engagement in Online Conspiracy Discussions

Shruti Phadke, Mattia Samory+1 more|arXiv (Cornell University)|Apr 22, 2022

Misinformation and Its Impacts被引用数 8

ひとこと要約

本研究では、r/conspiracyに参加する36,000人のRedditユーザーを対象に、1億6900万件の投稿を分析し、オンライン陰謀論関与の4つの明確な経路（安定的高水準、増加、減少、安定的低水準）を同定した。安定的高水準および増加経路に属するユーザーは、言語的適合性と社会的結束を特徴とする3段階の極端化段階（反省、探求、結束）を経て進展するが、減少経路ユーザーはトピック特化と適合性の低下を示し、回復の兆候を示している。

ABSTRACT

The disruptive offline mobilization of participants in online conspiracy theory (CT) discussions has highlighted the importance of understanding how online users may form radicalized conspiracy beliefs. While prior work researched the factors leading up to joining online CT discussions and provided theories of how conspiracy beliefs form, we have little understanding of how conspiracy radicalization evolves after users join CT discussion communities. In this paper, we provide the empirical modeling of various radicalization phases in online CT discussion participants. To unpack how conspiracy engagement is related to radicalization, we first characterize the users' journey through CT discussions via conspiracy engagement pathways. Specifically, by studying 36K Reddit users through their 169M contributions, we uncover four distinct pathways of conspiracy engagement: steady high, increasing, decreasing, and steady low. We further model three successive stages of radicalization guided by prior theoretical works. Specific sub-populations of users, namely those on steady high and increasing conspiracy engagement pathways, progress successively through various radicalization stages. In contrast, users on the decreasing engagement pathway show distinct behavior: they limit their CT discussions to specialized topics, participate in diverse discussion groups, and show reduced conformity with conspiracy subreddits. By examining users who disengage from online CT discussions, this paper provides promising insights about conspiracy recovery process.

研究の動機と目的

• ユーザーが議論コミュニティに参加した後のオンライン陰謀論関与の変遷を理解すること、特に極端化経路に焦点を当てる。
• 時間経過に伴う陰謀論（CT）サブレディットにおけるユーザー参加行動および言語的パターンを特定すること。
• 計算的手法および言語的特徴を用いて、理論的極端化段階（反省、探求、結束）の進行をモデル化すること。
• 高関与を続けるユーザー、関与を断念するユーザー、特定トピックに特化するユーザーを区別し、回復プロセスに寄与すること。
• 単一的陰謀世界観の尺度を測定する一般性スケールを提供し、関与パターンとの妥当性を検証すること。

提案手法

• 4,756のサブレディットを用いて陰謀論類似度スケールを訓練し、90％のユーザーに対して90％の活動カバレッジを確保した。
• ユーザーのサブレディット内寄与の時系列分析に基づき、4つの関与経路（安定的高水準、増加、減少、安定的低水準）を定義した。
• 語彙的および話法的パターンに基づき、一般化された陰謀的思考へのユーザーの受容度を測定する一般性スケールを開発した。
• 言語的、相互作用的、活動的特徴を用いて、RECRO（反省、探求、結束、解決、運用）モデルを適用し、極端化段階を検出した。
• 妥当性を確保するためのレジリエンスチェックを実施：陰謀論類似度と一般性スケールのスピアマン相関（0.23）、デシル別ユーザー活動の分割、および禁止済みサブレディットの除外。
• 2015年から2020年までの公開Redditデータ（Pushshift API）を用い、個人識別を回避しプライバシーを保護するため、生データは公開しない。

実験結果

リサーチクエスチョン

• RQ1 r/conspiracyに参加するユーザーにおけるオンライン陰謀論関与の明確な経路は何か？
• RQ2 異なる関与経路に属するユーザーは、理論的オンライン極端化段階（反省、探求、結束）をどのように経て進展するか？
• RQ3 極端化するユーザーと関与を断念するか特化するユーザーを区別する言語的・行動的兆候は何か？
• RQ4 減少関与経路に属するユーザーは、陰謀的信念からの回復の兆候をどの程度示しているか？
• RQ5 サブレディットの禁止やユーザーの禁止といった外部要因は、観察された関与および関与断念パターンにどのように影響するか？

主な発見

• 36,000人のユーザーと1億6900万件の投稿の縦断的分析に基づき、4つの明確な関与経路（安定的高水準、増加、減少、安定的低水準）を同定した。
• 安定的高水準および増加経路に属するユーザーは、内部語彙の増加と小規模グループディスカッションへの繰り返し参加を示し、極端化の探求段階および結束段階を経て進展していることが判明した。
• これらの高関与ユーザーは、陰謀論コミュニティとの言語的適合性が増し、一般志向のCTサブレディットへの貢献も増加しており、陰謀的信念の進化における単一的思考の仮説を支持するものであった。
• これに対して、減少経路ユーザーは特定の陰謀トピックに限定して寄与し、多様なサブレディットに参加し、CTコミュニティとの言語的適合性を示さなかったため、回復の兆候を示している可能性がある。
• 一般性スケールは、専門家から一般志向の陰謀的思考へのシフトを効果的に捉えており、陰謀論類似度スケールとは弱い相関（0.23）を示しており、両スケールが異なる次元を測定していることを示している。
• サブレディットの禁止は全体の結果にほとんど影響を及ぼさず、4,756のサブレディットのうち2020年までに禁止されたのは21件にとどまり、合計データ量の0.2％未満を占めていた。