[论文解读] Is radicalization reinforced by social media censorship?

Justin E. Lane, Kevin McCaffree+1 more|arXiv (Cornell University)|Mar 23, 2021

Social Media and Politics参考文献 33被引用 5

一句话总结

本研究使用基于代理的模型，考察社交媒体审查——包括去中心化的（取消关注）和中心化的（封禁）——如何影响极端化。研究发现，审查减少了对不同观点的接触，从而提高了信念的确定性，其中中心化封禁的极端化效应最强。

ABSTRACT

Radicalized beliefs, such as those tied to QAnon, Russiagate, and other political conspiracy theories, can lead some individuals and groups to engage in violent behavior, as evidenced in recent months. Understanding the mechanisms by which such beliefs are accepted, spread, and intensified is critical for any attempt to mitigate radicalization and avoid increased political polarization. This article presents and agent-based model of a social media network that enables investigation of the effects of censorship on the amount of dissenting information to which agents become exposed and the certainty of their radicalized views. The model explores two forms of censorship: 1) decentralized censorship-in which individuals can choose to break an online social network tie (unfriend or unfollow) with another individual who transmits conflicting beliefs and 2) centralized censorship-in which a single authority can ban an individual from the social media network for spreading a certain type of belief. This model suggests that both forms of censorship increase certainty in radicalized views by decreasing the amount of dissent to which an agent is exposed, but centralized "banning" of individuals has the strongest effect on radicalization.

研究动机与目标

• 探究社交媒体审查机制如何影响极端化信念的传播与强化。
• 建立模型，评估两种审查形式——去中心化（个体取消关注）和中心化（权威封禁）——对信念确定性的影响。
• 评估审查是否因减少对不同观点的接触，反而强化了极端化。
• 为设计减轻政治极化与暴力极端主义的社会媒体政策提供洞见。

提出的方法

• 开发了一个基于代理的模型，模拟一个社交网络，其中代理持有信念，并根据相似性与分歧进行互动。
• 实施两种审查机制：去中心化（代理可与分歧者断开联系）和中心化（中央权威封禁传播特定信念的代理）。
• 在不同审查制度下，追踪信念确定性和对分歧信息接触随时间的变化。
• 使用概率阈值建模信念采纳与强化，基于社会强化和对对立观点的接触。
• 通过模拟多种网络配置和参数变化，评估研究结果的稳健性。
• 使用平均信念确定性和接触分歧信息的代理比例等指标衡量结果。

实验结果

研究问题

• RQ1 去中心化审查（取消关注）如何影响社交媒体网络中极端化信念的确定性？
• RQ2 中心化审查（封禁）与无审查相比，如何影响极端化信念的传播与强度？
• RQ3 审查在多大程度上减少了对分歧信息的接触，从而强化了极端化？
• RQ4 去中心化与中心化审查中，哪种形式对提高信念确定性的效果最强？
• RQ5 通过审查减少对对立观点的接触，是否会加剧在线社区中的政治极化？

主要发现

• 两种审查形式均减少了对分歧信息的接触，提高了极端化信念的确定性。
• 中心化封禁的极端化效应强于去中心化取消关注，显著提高了整个网络的信念确定性。
• 即使中心化审查程度适中，也导致信念确定性明显上升，且随时间推移效应加剧。
• 模型表明，审查通过限制对对立观点的接触，制造了强化极端信念的回音室。
• 去中心化审查也加剧了极端化，但程度低于中心化封禁。
• 结果表明，审查政策可能无意中加剧了在线环境中的政治极化与极端化。