[论文解读] Understanding Filter Bubbles and Polarization in Social Networks

Uthsav Chitra, Christopher Musco|arXiv (Cornell University)|Jun 20, 2019

Opinion Dynamics and Social Influence参考文献 52被引用 7

一句话总结

本文提出了一种数学框架，通过引入一名网络管理员，通过边权重的修改来过滤内容，从而扩展了Friedkin-Johnsen意见动态模型，以减少用户之间的分歧。研究表明，即使对网络结构进行微小而有针对性的改动，也能显著加剧极化——形成‘信息茧房’——但同时表明，对管理员目标实施L2正则化可最大限度减少这种影响，同时保持其主要目标。

ABSTRACT

Recent studies suggest that social media usage -- while linked to an increased diversity of information and perspectives for users -- has exacerbated user polarization on many issues. A popular theory for this phenomenon centers on the concept of "filter bubbles": by automatically recommending content that a user is likely to agree with, social network algorithms create echo chambers of similarly-minded users that would not have arisen otherwise. However, while echo chambers have been observed in real-world networks, the evidence for filter bubbles is largely post-hoc. In this work, we develop a mathematical framework to study the filter bubble theory. We modify the classic Friedkin-Johnsen opinion dynamics model by introducing another actor, the network administrator, who filters content for users by making small changes to the edge weights of a social network (for example, adjusting a news feed algorithm to change the level of interaction between users). On real-world networks from Reddit and Twitter, we show that when the network administrator is incentivized to reduce disagreement among users, even relatively small edge changes can result in the formation of echo chambers in the network and increase user polarization. We theoretically support this observed sensitivity of social networks to outside intervention by analyzing synthetic graphs generated from the stochastic block model. Finally, we show that a slight modification to the incentives of the network administrator can mitigate the filter bubble effect while minimally affecting the administrator's target objective, user disagreement.

研究动机与目标

• 探究社交媒体算法如何导致信息茧房并加剧极化现象的机制。
• 将推荐系统建模为一名网络管理员，通过修改边权重来减少用户分歧。
• 从理论和实证两方面分析社交网络对微小结构干预的敏感性。
• 探讨是否可通过正则化管理员的目标函数，在不显著损害其最小化分歧核心目标的前提下，减少极化。
• 为理解信息茧房的形成与缓解提供一个形式化且数学基础坚实的框架。

提出的方法

• 通过引入一名网络管理员，该管理员通过修改社交网络图中的边权重，扩展了Friedkin-Johnsen意见动态模型。
• 将管理员的目标建模为在边权重变化受限的条件下，最小化用户之间的分歧（DG,z）。
• 在管理员的优化问题中引入L2正则化（γ∥W∥2F），以抑制集中式改动，促进广泛分布的修改。
• 将正则化动态应用于Reddit和Twitter的真实网络，模拟每次干预后达到的均衡意见分布。
• 使用随机块模型生成的合成图，从理论上分析网络结构对管理员行为的敏感性。
• 利用拉普拉斯矩阵（L）和意见更新方程 z(r) = (L(r–1) + I)–1s，计算每次网络修改后的均衡意见。

实验结果

研究问题

• RQ1 在社交网络中，对边权重进行微小而有针对性的改动，是否能显著加剧极化，从而模拟信息茧房的形成？
• RQ2 当一名被激励以减少分歧的网络管理员介入时，现实社交网络对这种干预的敏感度如何？
• RQ3 社交网络对外部行为者实施微小结构改动的高敏感性，其理论基础是什么？
• RQ4 对管理员目标的正则化是否能缓解信息茧房效应，同时保持其核心目标——即减少分歧——？
• RQ5 所提出的框架是否能解释在用户并非均匀受控、而具有异质初始意见的网络中出现的极化现象？

主要发现

• 在Reddit和Twitter的真实网络中，未经正则化的网络管理员仅通过极小的边权重改动，便使极化程度最高提升了4000%。
• 在L2正则化（γ = 0.2）下，极化程度最多仅上升4%，表明信息茧房效应被显著缓解。
• 在正则化条件下，分歧（管理员的主要目标）的增加不超过5%，表明其代价极小。
• 基于随机块模型图的理论分析，支持了网络对微小结构改动高度敏感的观察结果。
• 正则化项鼓励在大量边上的广泛分布式修改，而非集中式改动，从而降低了极化风险。
• 结果验证了信息茧房的形成不仅源于用户行为，也源于算法干预，即使这些干预本身微小且出于善意。