[论文解读] Population polarization dynamics and next-generation social media algorithms

Neil F. Johnson, Pedro D. Manrique+9 more|arXiv (Cornell University)|Dec 16, 2017

Opinion Dynamics and Social Influence参考文献 1被引用 4

一句话总结

本文提出了一种多体理论模型，解释社交媒体上的群体极化现象，表明极化源于竞争动态而非虚假信息或回音室效应。该模型预测，旨在减少极化的下一代算法可能因用户参与系统中的反馈回路，反而引发爆炸式渗滤，催生新的极端派系。

ABSTRACT

We present a many-body theory that explains and reproduces recent observations of population polarization dynamics, is supported by controlled human experiments, and addresses the controversy surrounding the Internet's impact. It predicts that whether and how a population becomes polarized is dictated by the nature of the underlying competition, rather than the validity of the information that individuals receive or their online bubbles. Building on this framework, we show that next-generation social media algorithms aimed at pulling people together, will instead likely lead to an explosive percolation process that generates new pockets of extremes.

研究动机与目标

• 解释在线社交网络中观察到的群体极化背后的作用机制。
• 探究极化是否源于信息质量、回音室效应，或潜在的竞争动态。
• 评估旨在减少极化的下一代社交媒体算法所带来的非预期后果。
• 建立一个基于互动动态的理论框架，以预测极化结果。
• 通过识别以参与度为核心平台的系统性风险，为未来算法设计提供指导。

提出的方法

• 作者开发了一种多体统计力学模型，以模拟大规模群体中的集体意见动态。
• 该模型纳入了意见群体之间的竞争性互动，将极化视为一种涌现的相变现象。
• 采用基于代理的建模方法，结合随机互动，模拟个体如何根据同伴影响和网络结构改变观点。
• 该框架包含互动强度、网络拓扑结构以及内容推荐中反馈回路的参数。
• 通过受控的人类实验，将模型预测与真实世界的行为数据进行验证。
• 将模型扩展以模拟旨在通过促进跨群体互动来减少极化的下一代算法。

实验结果

研究问题

• RQ1 在线社交网络中群体极化背后的驱动机制是什么？
• RQ2 信息的真实性或在线信息回音室的存在，哪一个更主要地导致了极化？
• RQ3 以参与度为核心的社交媒体算法如何影响极端意见集群的形成？
• RQ4 旨在减少极化的算法是否可能因反馈效应反而加剧极化？
• RQ5 意见群体之间的竞争性质在塑造集体动态中起到何种作用？

主要发现

• 群体极化主要由意见群体之间的竞争动态驱动，而非虚假信息或回音室效应。
• 该模型成功复现了受控人类实验中观察到的极化模式。
• 旨在减少极化的下一代算法可能反而触发爆炸式渗滤，迅速形成新的极端派系。
• 极化转变表现出类似相变的特征，存在一个互动强度的临界阈值。
• 基于参与度的推荐系统中的反馈回路会放大极化，即使算法本意是连接不同群体。
• 研究发现，仅增加跨群体接触并不能保证减少极化；竞争结构才是更具决定性的因素。