[论文解读] The Paradox of Information Access: Growing Isolation in the Age of Sharing

Tarek Abdelzaher, Heng Ji+6 more|arXiv (Cornell University)|Apr 4, 2020

Misinformation and Its Impacts被引用 7

一句话总结

本文识别出‘信息获取悖论’——即全球信息可及性提升反而因偏见性内容筛选与选择性暴露导致意识形态碎片化。文章提出一系列技术缓解策略，包括安全的内容溯源、算法事实核查、减少偏见的内容筛选以及生成式摘要，以应对在线媒体中的极化与虚假信息问题。

ABSTRACT

Modern online media, such as Twitter, Instagram, and YouTube, enable anyone to become an information producer and to offer online content for potentially global consumption. By increasing the amount of globally accessible real-time information, today's ubiquitous producers contribute to a world, where an individual consumes vanishingly smaller fractions of all produced content. In general, consumers preferentially select information that closely matches their individual views and values. The bias inherent in such selection is further magnified by today's information curation services that maximize user engagement (and thus service revenue) by filtering new content in accordance with observed consumer preferences. Consequently, individuals get exposed to increasingly narrower bands of the ideology spectrum. Societies get fragmented into increasingly ideologically isolated enclaves. These enclaves (or echo-chambers) then become vulnerable to misinformation spread, which in turn further magnifies polarization and bias. We call this dynamic the paradox of information access; a growing ideological fragmentation in the age of sharing. This article describes the technical, economic, and socio-cognitive contributors to this paradox, and explores research directions towards its mitigation.

研究动机与目标

• 分析信息可及性提升的社会影响，特别是意识形态回音室与极化现象的加剧。
• 识别在线媒体平台中信息获取悖论的技术、经济与社会认知驱动因素。
• 提出可操作的缓解策略，如安全溯源、事实核查与去偏见内容筛选，以减少意识形态碎片化。
• 探讨在部署信息提炼工具以总结对立道德视角时面临的伦理、激励机制与监管挑战。
• 倡导开展可衡量指标与标准的研究，以评估算法内容筛选系统中的内容中立性与质量。

提出的方法

• 提出一种算法化信息筛选系统，通过降低强化用户既有信念的内容权重来减少偏见。
• 引入生成式摘要技术以压缩信息内容，减轻认知负荷，提升用户接触多元观点的机会。
• 倡导采用安全的内容溯源机制，以增强对信息来源的信任并追踪虚假信息。
• 建议整合机器学习模型，基于事实一致性与来源可靠性来检测并标记虚假信息。
• 探索使用道德推理模型，提炼并呈现来自不同伦理视角的论点，以增强用户对潜在价值观的认知。
• 建议设计激励相容的系统，奖励用户接触多样化内容，以对抗由参与度驱动的算法反馈回路。

实验结果

研究问题

• RQ1 在Twitter和YouTube等平台用户生成内容呈指数级增长的背景下，尽管全球信息可及性提升，为何仍会加剧意识形态碎片化？
• RQ2 以用户参与度为优先的算法化内容筛选系统在多大程度上会放大既有的认知偏见并加剧极化？
• RQ3 机器智能工具能否自动从指定伦理视角生成具有说服力、基于道德立场的论点，以提升信息素养？
• RQ4 当系统分析并提炼公共内容中的道德推理以对抗回音室效应时，会引发哪些伦理与隐私权衡问题？
• RQ5 为确保信息筛选系统在内容可见性方面保持中立、高质量与公平，需要哪些技术与监管框架？

主要发现

• 信息获取悖论的产生源于：尽管全球内容可及性提升，但因内容筛选存在偏见，反而导致个体信息覆盖范围缩小与意识形态孤立加剧。
• 以用户参与度为优化目标的内容筛选系统会强化用户既有信念，缩小信息接触范围并加剧极化，尤其在与虚假信息结合时更为显著。
• 生成式摘要与内容溯源机制可减轻认知负荷并提升对信息来源的信任，从而可能缓解回音室效应。
• 算法事实核查与偏见缓解技术有助于抑制虚假信息传播，并减少不同用户群体所消费内容的同质化程度。
• 当系统分析公共内容中的道德推理时，会引发隐私与监控相关的伦理担忧，但此类工具也可能帮助用户突破回音室限制。
• 当前的信息筛选系统缺乏衡量中立性或质量的可量化标准，凸显了建立新型指标与监管框架的迫切需求，以保障信息获取的公平性。