[论文解读] (Mis)Information Operations: An Integrated Perspective

Matteo Cinelli, Mauro Conti+7 more|arXiv (Cornell University)|Dec 23, 2019

Misinformation and Its Impacts参考文献 47被引用 5

一句话总结

本文提出了一套综合框架，通过分析社交媒体生态系统中的认知偏见、社会动态和技术基础设施，来理解（错误）信息操作，重点关注意大利背景。研究识别出确认偏误和群体极化是错误信息传播的核心驱动力，并提出了一项多学科研究路线图，以指导未来的技术和政策干预。

ABSTRACT

The massive diffusion of social media fosters disintermediation and changes the way users are informed, the way they process reality, and the way they engage in public debate. The cognitive layer of users and the related social dynamics define the nature and the dimension of informational threats. Users show the tendency to interact with information adhering to their preferred narrative and to ignore dissenting information. Confirmation bias seems to account for users decisions about consuming and spreading content; and, at the same time, aggregation of favored information within those communities reinforces group polarization. In this work, the authors address the problem of (mis)information operations with a holistic and integrated approach. Cognitive weakness induced by this new information environment are considered. Moreover, (mis)information operations, with particular reference to the Italian context, are considered; and the fact that the phenomenon is more complex than expected is highlighted. The paper concludes by providing an integrated research roadmap accounting for the possible future technological developments.

研究动机与目标

• 分析认知偏误（如确认偏误）在塑造用户对社交媒体上错误信息的行为方面的作用。
• 研究社会动态（包括回音室和群体极化）如何放大错误信息的传播。
• 以意大利为案例研究，考察（错误）信息操作在复杂、多层错误信息活动中的结构性特征。
• 构建一个整合认知、社会和技术视角的综合性、跨学科研究框架，以研究错误信息。
• 规划未来研究路线图，以应对信息生态系统中新兴的技术发展和系统性漏洞。

提出的方法

• 作者采用多学科方法，整合计算机科学、社会科学和认知心理学的见解。
• 通过社交媒体平台的数据分析用户行为模式，重点关注与既有叙事一致的内容消费和分享行为。
• 建模个体认知倾向（如确认偏误）与集体社会动态（如群体极化）之间的相互作用，以揭示信息生态系统的形成机制。
• 以意大利的（错误）信息操作案例研究，说明错误信息活动在现实世界中的复杂性和系统性特征。
• 该框架结合定性和定量分析方法，对社交媒体数据进行分析，以绘制信息流动和用户参与模式。
• 通过综合现有文献和实证发现，制定研究路线图，强调未来在技术和政策相关方向的发展。

实验结果

研究问题

• RQ1 认知偏误（如确认偏误）在多大程度上影响用户在社交媒体上对（错误）信息的参与行为？
• RQ2 群体极化和回音室等社会动态在多大程度上促进了错误信息的传播？
• RQ3 在意大利社交媒体环境中，（错误）信息操作的结构和行为特征是什么？
• RQ4 如何将认知、社会和技术因素整合到一个统一的框架中，以研究错误信息？
• RQ5 未来在技术与政策相关方面，应关注哪些关键研究方向，以减轻（错误）信息操作的影响？

主要发现

• 确认偏误显著影响用户选择消费和分享与其既有信念一致的信息的决策。
• 在线社区中偏好信息的聚合强化了群体极化，提高了封闭网络中错误信息的韧性。
• （错误）信息操作现象比以往认为的更为复杂，涉及认知、社会和技术各层面的协同行动。
• 意大利案例揭示了错误信息操作的独特模式，包括战略性地利用社交媒体操控公共话语。
• 本研究识别出当前研究和政策应对中的关键缺口，特别是在应对数字环境中用户认知脆弱性方面。
• 提出了一项综合研究路线图，以指导未来在技术与跨学科层面上大规模应对错误信息的努力。