[論文レビュー] Is radicalization reinforced by social media censorship?

Justin E. Lane, Kevin McCaffree+1 more|arXiv (Cornell University)|Mar 23, 2021

Social Media and Politics参考文献 33被引用数 5

ひとこと要約

本研究では、エージェントベースモデルを用いて、SNSにおける規制（分散型（アンフォローやブロック）と集中型（禁止））が、過激化に与える影響を検討する。規制により反対意見への露出が減少し、信念の確信度が上昇することが判明。特に集中型の禁止が、最も強い過激化効果を示した。

ABSTRACT

Radicalized beliefs, such as those tied to QAnon, Russiagate, and other political conspiracy theories, can lead some individuals and groups to engage in violent behavior, as evidenced in recent months. Understanding the mechanisms by which such beliefs are accepted, spread, and intensified is critical for any attempt to mitigate radicalization and avoid increased political polarization. This article presents and agent-based model of a social media network that enables investigation of the effects of censorship on the amount of dissenting information to which agents become exposed and the certainty of their radicalized views. The model explores two forms of censorship: 1) decentralized censorship-in which individuals can choose to break an online social network tie (unfriend or unfollow) with another individual who transmits conflicting beliefs and 2) centralized censorship-in which a single authority can ban an individual from the social media network for spreading a certain type of belief. This model suggests that both forms of censorship increase certainty in radicalized views by decreasing the amount of dissent to which an agent is exposed, but centralized "banning" of individuals has the strongest effect on radicalization.

研究の動機と目的

• SNSにおける規制メカニズムが、過激化した信念の拡散および強化に与える影響を調査すること。
• 分散型（個別によるブロック）と集中型（権威による禁止）の2種類の規制形態が信念の確信度に与える影響をモデル化すること。
• 規制が反対意見への露出を減らすことで、過激化が意図せず強化されるかどうかを評価すること。
• 政治的極化や暴力的過激主義を緩和するためのSNS政策設計に役立つ知見を提供すること。

提案手法

• エージェントが信念を持ち、類似性や反対意見に基づいて相互作用するSNSネットワークをシミュレートするエージェントベースモデルを構築した。
• 分散型（エージェントが反対意見を持つ者と関係を断切る）と集中型（中央機関が特定の信念を広めるエージェントを禁止する）の2種類の規制メカニズムを実装した。
• 異なる規制体制下で、時間経過に伴う信念の確信度の変化と反対意見への露出の変化を追跡した。
• 社会的支援と反対意見への曝露に基づいて、信念の受容と強化を確率的閾値でモデル化した。
• 結果の妥当性を検証するため、複数のネットワーク構造とパラメータの組み合わせをシミュレートした。
• 平均的な信念の確信度や反対意見にさらされるエージェントの割合といった指標を用いて、結果を測定した。

実験結果

リサーチクエスチョン

• RQ1 分散型規制（アンフォロー）は、SNSネットワークにおける過激化した信念の確信度にどのように影響するか？
• RQ2 集中型規制（禁止）は、規制なしの状況と比較して、過激化した信念の拡散と強度にどのように影響するか？
• RQ3 規制によって反対意見への露出がどれほど減少するか。その結果、過激化がどの程度強化されるか？
• RQ4 分散型と集中型のどちらの規制が、信念の確信度を最も強く上昇させるか？
• RQ5 規制によって反対意見への露出を減らすことは、オンラインコミュニティにおける政治的極化をどのように促進するか？

主な発見

• 両方の規制形態とも、反対意見への露出を減少させ、過激化した信念の確信度を上昇させた。
• 集中型の禁止は、分散型のアンフォローと比較して、より強い過激化効果を示し、ネットワーク全体で信念の確信度が顕著に上昇した。
• 中程度の集中型規制でも、信念の確信度に顕著な上昇が見られ、その効果は時間経過とともに増幅された。
• モデルは、規制が反対意見への露出を制限することで、エコー・チェンバーを形成し、極端な信念を強化することを示した。
• 分散型規制も過激化を促進したが、集中型禁止に比べてその影響はやや小さかった。
• 結果から、規制政策が、意図せずオンライン環境における政治的極化や過激化を悪化させる可能性があることが示唆された。