[论文解读] A Survey on Echo Chambers on Social Media: Description, Detection and Mitigation

Faisal Alatawi, Lu Cheng+5 more|arXiv (Cornell University)|Dec 9, 2021

Misinformation and Its Impacts被引用 14

一句话总结

本综述对社交媒体回音室进行了全面的计算分析，识别出其通过算法推荐系统和心理偏见（如确认偏误与同质性）形成的原因。文章提出了检测与缓解策略——尤其是通过改进推荐系统设计——以打破回音室并减少错误信息传播，特别是在新冠疫情等危机期间。

ABSTRACT

Echo chambers on social media are a significant problem that can elicit a number of negative consequences, most recently affecting the response to COVID-19. Echo chambers promote conspiracy theories about the virus and are found to be linked to vaccine hesitancy, less compliance with mask mandates, and the practice of social distancing. Moreover, the problem of echo chambers is connected to other pertinent issues like political polarization and the spread of misinformation. An echo chamber is defined as a network of users in which users only interact with opinions that support their pre-existing beliefs and opinions, and they exclude and discredit other viewpoints. This survey aims to examine the echo chamber phenomenon on social media from a social computing perspective and provide a blueprint for possible solutions. We survey the related literature to understand the attributes of echo chambers and how they affect the individual and society at large. Additionally, we show the mechanisms, both algorithmic and psychological, that lead to the formation of echo chambers. These mechanisms could be manifested in two forms: (1) the bias of social media's recommender systems and (2) internal biases such as confirmation bias and homophily. While it is immensely challenging to mitigate internal biases, there has been great efforts seeking to mitigate the bias of recommender systems. These recommender systems take advantage of our own biases to personalize content recommendations to keep us engaged in order to watch more ads. Therefore, we further investigate different computational approaches for echo chamber detection and prevention, mainly based around recommender systems.

研究动机与目标

• 从社会计算的视角，理解社交媒体回音室的结构与行为特征。
• 区分回音室与相关概念（如过滤气泡与政治极化）之间的差异。
• 识别回音室形成的双重驱动因素：算法推荐系统与心理偏见（确认偏误、认知失调、同质性）。
• 综述计算方法在检测与缓解回音室中的应用，重点关注推荐系统干预措施。
• 为研究人员和从业者提供设计更具韧性的信息生态系统的路线图。

提出的方法

• 将回音室定义为用户网络，其中用户仅与强化性观点互动，并主动排斥不同意见。
• 通过两条主要路径分析回音室机制：(1) 倾向于放大用户参与度的有偏见社交媒体推荐系统，(2) 内在心理偏见，如确认偏误与同质性。
• 基于网络结构、内容相似性与立场检测，调查计算检测技术以识别回音室网络。
• 评估通过重新配置推荐系统以多样化内容曝光并减少回音室强化的缓解策略。
• 利用关于新冠疫情错误信息、疫苗犹豫与政治极化的实证研究证据，为检测与缓解方案提供依据。
• 提出一个反馈回路模型，将推荐系统、心理偏见与网络同质性联系起来，以解释回音室的持续存在。

实验结果

研究问题

• RQ1 哪些核心结构与行为特征可将回音室与过滤气泡及政治极化区分开来？
• RQ2 算法推荐系统与心理偏见如何共同促成回音室的形成与强化？
• RQ3 哪些计算技术能有效检测社交媒体网络中回音室的存在？
• RQ4 推荐系统重构在多大程度上可缓解回音室效应并减少错误信息传播？
• RQ5 回音室如何影响现实行为，例如在新冠疫情等危机期间对公共卫生措施的遵从度？

主要发现

• 回音室被定义为用户仅与强化性观点互动并主动贬损对立观点的网络，这使其与过滤气泡和极化现象相区别。
• 以用户参与度为导向、通过个性化内容推送的推荐系统是回音室形成的主要驱动力，其利用了用户的确认偏误与同质性倾向。
• 在新冠疫情期间，回音室与广泛传播的错误信息相关，包括5G阴谋论、疫苗犹豫以及对公共卫生措施的遵从度下降。
• 研究表明，61% 的保守媒体用户相信疾控中心夸大了新冠疫情威胁以损害特朗普总统的声誉，反映出回音室的深层影响。
• 回音室中的单边论点比中立或双边论点更具强化作用，这削弱了平衡信息在缓解极化方面的有效性。
• 通过推荐系统重构可实现缓解，因为回音室是工程化系统的结果，因此可通过计算干预手段加以解构。