[论文解读] The Paradox of Information Access: On Modeling Social-Media-Induced Polarization

Chao Xu, Jinyang Li+4 more|arXiv (Cornell University)|Apr 2, 2020

Opinion Dynamics and Social Influence参考文献 33被引用 7

一句话总结

本文提出了一种在K维信念空间中的扩散-漂移模型，用以解释为何信息获取的增加——由内容生产的民主化和确认偏误驱动——不可避免地导致社会极化。该模型表明，信息过载与对极端内容的偏好相结合，即使在无恶意意图的情况下，也会导致信念分化，揭示了一个悖论：信息获取越多，意识形态碎片化反而越严重。

ABSTRACT

The paper develops a stochastic model of drift in human beliefs that shows that today's sheer volume of accessible information, combined with consumers' confirmation bias and natural preference to more outlying content, necessarily lead to increased polarization. The model explains the paradox of growing ideological fragmentation in the age of increased sharing. As social media, search engines, and other real-time information sharing outlets purport to facilitate access to information, a need for content filtering arises due to the ensuing information overload. In general, consumers select information that matches their individual views and values. The bias inherent in such selection is echoed by today's information curation services that maximize user engagement by filtering new content in accordance with observed consumer preferences. Consequently, individuals get exposed to increasingly narrower bands of the ideology spectrum, thus fragmenting society into increasingly ideologically isolated enclaves. We call this dynamic the paradox of information access. The model also suggests the disproportionate damage attainable with a small infusion of well-positioned misinformation. The paper describes the modeling methodology, and evaluates modeling results for different population sizes and parameter settings.

研究动机与目标

• 探究为何通过社交媒体增加信息获取与社会极化上升存在相关性。
• 在信息过载、确认偏误和对边缘化内容偏好的条件下，建模信念演化的动态过程。
• 分析内容生产的民主化与算法筛选如何放大意识形态碎片化。
• 证明极化是信息量的结构性后果，而不仅仅是用户行为的结果。
• 为理解民主社会中信息获取悖论提供理论基础。

提出的方法

• 该模型将个体表示为K维信念空间中的粒子，其位置反映意识形态取向，幅值表示极端程度。
• 信念演化由结合了漂移（由局部信念密度驱动）和噪声（代表随机暴露）的随机运动方程所支配。
• 系统通过福克-普朗克方程形式化，描述信念分布的时间演化，捕捉扩散与漂移的双重效应。
• 通过加权信念更新以偏向相似观点，将确认偏误纳入模型，并将对更极端内容的偏好作为参数引入。
• 通过改变群体规模、信息量和偏倚参数进行模拟，以评估极化的临界阈值与分叉点。
• 该模型将算法筛选视为用户偏见的反映，避免将责任归咎于特定系统。

实验结果

研究问题

• RQ1 通过社交媒体平台增加信息获取是否必然导致更严重的意识形态极化？
• RQ2 确认偏误与对边缘化内容的偏好如何与信息量相互作用，以塑造信念分布？
• RQ3 在无恶意意图的情况下，内容生产的民主化在多大程度上会加剧极化？
• RQ4 信念空间中的扩散-漂移模型能否解释意识形态回音室与碎片化的出现？
• RQ5 信息过载在信念分布分叉过程中扮演何种角色，即使在中性初始条件下亦如此？

主要发现

• 该模型表明，信息量增加，结合确认偏误和对极端内容的偏好，会导致不可避免的信念极化，即使不存在外部操纵。
• 在信息过载条件下，信念空间中出现人口密度的分叉，表明不同意识形态集群的出现。
• 当信息量超过认知容量时，极化现象更为显著，导致个体消费的内容日益同质化。
• 该模型显示，即使少量精心投放的虚假信息，也可能因信念漂移的结构而造成不成比例的破坏。
• 信息获取悖论得到验证：信息获取越多，碎片化越严重，从而损害共同现实与民主话语。
• 福克-普朗克框架成功捕捉了选择性暴露（漂移）与随机暴露（扩散）之间的相互作用，表明二者在极化中的协同作用。