[论文解读] An Agenda for Disinformation Research

Nadya Bliss, Elizabeth Bradley+5 more|arXiv (Cornell University)|Dec 15, 2020

Misinformation and Its Impacts被引用 10

一句话总结

本白皮书提出了一项跨学科的研究议程，旨在通过计算工具检测、分析和应对数字时代虚假或误导性内容，以遏制虚假信息的传播。该议程强调需在计算科学、社会科学与政策领域之间开展协同研究，以理解虚假信息网络、改进检测系统，并恢复公众对信息生态系统的信任。

ABSTRACT

In the 21st Century information environment, adversarial actors use disinformation to manipulate public opinion. The distribution of false, misleading, or inaccurate information with the intent to deceive is an existential threat to the United States--distortion of information erodes trust in the socio-political institutions that are the fundamental fabric of democracy: legitimate news sources, scientists, experts, and even fellow citizens. As a result, it becomes difficult for society to come together within a shared reality; the common ground needed to function effectively as an economy and a nation. Computing and communication technologies have facilitated the exchange of information at unprecedented speeds and scales. This has had countless benefits to society and the economy, but it has also played a fundamental role in the rising volume, variety, and velocity of disinformation. Technological advances have created new opportunities for manipulation, influence, and deceit. They have effectively lowered the barriers to reaching large audiences, diminishing the role of traditional mass media along with the editorial oversight they provided. The digitization of information exchange, however, also makes the practices of disinformation detectable, the networks of influence discernable, and suspicious content characterizable. New tools and approaches must be developed to leverage these affordances to understand and address this growing challenge.

研究动机与目标

• 应对数字信息时代虚假信息对民主制度、科学公信力和社会凝聚力日益增长的威胁。
• 认识到计算与通信技术已显著提升了虚假信息的传播速度、规模与覆盖范围，从而破坏了共同现实的基础。
• 识别出亟需开发新型工具与方法，以检测虚假信息、绘制影响网络并表征可疑内容。
• 推动计算机科学、社会科学与政策专家之间的跨学科协作，以制定有效的应对措施。
• 建立协调一致的研究议程，以在大规模上提升对虚假信息的检测、理解与缓解能力。

提出的方法

• 通过分析语言模式、元数据和传播动态，开发计算工具以检测虚假信息。
• 利用社交网络分析技术绘制影响网络，识别虚假信息传播的关键人物与传播路径。
• 通过自动化分析可信度、信息源可靠性以及传播的时间模式，对可疑内容进行表征。
• 整合社会科学的洞见，以建模人类对虚假信息的反应行为，并评估对信息来源的信任程度。
• 利用数字化数据，实现对信息生态系统的规模化、实时监控。
• 设计融合技术检测与社会学、政治背景的跨学科研究框架。

实验结果

研究问题

• RQ1 如何利用计算方法在数字平台间大规模检测并表征虚假信息？
• RQ2 虚假信息网络的结构与行为模式是什么？它们与自然信息传播有何不同？
• RQ3 虚假信息活动如何利用数字通信基础设施的弱点以及对机构信任的薄弱点？
• RQ4 算法放大机制与平台设计在误导性内容传播中扮演何种角色？
• RQ5 跨学科研究如何提升信息生态系统对有组织操纵的抗御能力？

主要发现

• 虚假信息对民主制度构成生存性威胁，因其侵蚀了对合法新闻、专家意见及共同现实的信任。
• 计算与通信技术使虚假信息传播达到了前所未有的速度与规模，减少了对传统媒体把关人的依赖。
• 数字化使我们能够通过数据驱动方法检测虚假信息模式、绘制影响网络，并表征可疑内容。
• 迫切需要开展协调一致的跨学科研究，以开发能够有效检测与应对虚假信息的工具。
• 本文件确立了指导未来虚假信息研究的基础性研究议程，强调计算科学、社会科学与政策领域的协作。
• 所提出的议程旨在通过技术与社会干预手段，恢复信息生态系统的可信度，从而增强社会的抗逆力。