[论文解读] Mechanisms and Attributes of Echo Chambers in Social Media

Bohan Jiang, Mansooreh Karami+3 more|arXiv (Cornell University)|Jun 9, 2021

Misinformation and Its Impacts参考文献 49被引用 14

一句话总结

本文识别并分析了社交媒体中回音室现象的核心机制——推荐算法、确认偏误、认知失调与同质性，以及关键属性——虚假信息传播、阴谋论扩散、政治极化、社会趋势操纵与情绪传染。研究证明，这些机制通过反馈回路相互作用，强化用户孤立与虚假信息传播，对通过算法、心理与社会学干预手段检测和缓解回音室具有重要意义。

ABSTRACT

Echo chambers may exclude social media users from being exposed to other opinions, therefore, can cause rampant negative effects. Among abundant evidence are the 2016 and 2020 US presidential elections conspiracy theories and polarization, as well as the COVID-19 disinfodemic. To help better detect echo chambers and mitigate its negative effects, this paper explores the mechanisms and attributes of echo chambers in social media. In particular, we first illustrate four primary mechanisms related to three main factors: human psychology, social networks, and automatic systems. We then depict common attributes of echo chambers with a focus on the diffusion of misinformation, spreading of conspiracy theory, creation of social trends, political polarization, and emotional contagion of users. We illustrate each mechanism and attribute in a multi-perspective of sociology, psychology, and social computing with recent case studies. Our analysis suggest an emerging need to detect echo chambers and mitigate their negative effects.

研究动机与目标

• 理解驱动社交媒体平台中回音室形成与持续存在的根本机制。
• 识别并分析回音室的主要属性，如虚假信息传播、阴谋论扩散与政治极化。
• 考察人类心理（如确认偏误）、社交网络结构（如同质性）与自动化系统（如推荐算法）之间在强化回音室中的相互作用。
• 通过近期案例研究，提供社会学、心理学与社会计算的多重视角分析，以支撑理论洞察。
• 通过整合机制与属性的综合理解，为改进回音室检测模型与缓解策略提供依据。

提出的方法

• 系统性地将回音室机制划分为三个相互关联的因素：自动化系统（如推荐算法）、人类心理（如确认偏误、认知失调）和社会网络（如同质性）。
• 利用重大事件的案例研究——2016年与2020年美国总统大选，以及新冠疫情虚假信息泛滥——说明回音室机制在现实中的表现。
• 分析内容与网络动态，识别诸如单边内容传播、对立观点被排斥以及情绪放大等属性。
• 整合社会学、心理学与社会计算的研究成果，构建理解回音室形成的跨学科框架。
• 提出检测模型应结合心理学与社会学理论，以及算法技术，以提升准确度与相关性。
• 强调意见领袖、媒体机构与平台设计在放大或缓解回音室效应中的作用。

实验结果

研究问题

• RQ1 社交媒体中回音室的形成与强化主要由哪些机制驱动？
• RQ2 推荐算法、人类认知偏误与社交网络结构如何相互作用以维持回音室？
• RQ3 在现实社交媒体环境中，回音室最常见的且最具影响力的属性是什么？
• RQ4 回音室在多大程度上促成了虚假信息、阴谋论与政治极化的传播？
• RQ5 如何将社会学与心理学理论整合进算法检测模型，以提升回音室识别能力？

主要发现

• 推荐算法通过基于用户行为的个性化内容推送，显著加剧了回音室现象，形成自我强化的信息宇宙，限制用户接触多元观点。
• 确认偏误通过选择性信息获取、解释与记忆回忆，放大了回音室效应，尤其在与算法个性化结合时更为显著。
• 社交网络中的同质性通过使志趣相投的用户形成紧密连接的群体，排斥不同意见者，从而强化了回音室结构。
• 虚假信息传播是回音室最普遍的属性，2016年与2020年美国大选及新冠疫情虚假信息泛滥均提供了有力证据。
• 政治极化与回音室密切相关，数据显示过去二十年间党派分歧显著扩大，意识形态重叠度持续下降。
• 情绪传染在回音室中被显著放大，尤其在活跃用户中，导致负面情绪加剧与心理健康影响，尤其在疫情等危机时期更为明显。