[论文解读] A Survey on Computational Propaganda Detection

Giovanni Da San Martino, Stefano Cresci+4 more|arXiv (Cornell University)|Jul 15, 2020

Misinformation and Its Impacts参考文献 14被引用 6

一句话总结

本综述回顾了利用自然语言处理与网络分析检测计算宣传的最先进技术方法，强调了跨学科合作的必要性。它识别了关键挑战，并概述了在社交媒体上检测有组织的、议程驱动的虚假信息活动的未来研究方向。

ABSTRACT

Propaganda campaigns aim at influencing people's mindset with the purpose of advancing a specific agenda. They exploit the anonymity of the Internet, the micro-profiling ability of social networks, and the ease of automatically creating and managing coordinated networks of accounts, to reach millions of social network users with persuasive messages, specifically targeted to topics each individual user is sensitive to, and ultimately influencing the outcome on a targeted issue. In this survey, we review the state of the art on computational propaganda detection from the perspective of Natural Language Processing and Network Analysis, arguing about the need for combined efforts between these communities. We further discuss current challenges and future research directions.

研究动机与目标

• 分析社交媒体中计算宣传检测的当前状态。
• 识别仅依赖自然语言处理或网络分析方法的现有方法中的不足之处。
• 倡导结合自然语言处理与网络分析的集成方法，以提升检测效果。
• 概述检测有组织宣传活动的关键挑战与未来研究方向。

提出的方法

• 从自然语言处理与网络分析的视角，系统回顾计算宣传检测方法。
• 分析有组织的账户网络如何利用精准定位与说服性信息传播。
• 评估识别非真实行为（如机器人行为与信息协调）的技术。
• 考察宣传内容中使用的语言特征，包括情感语言与话语框架。
• 将网络结构分析与文本内容分析相结合，以检测有组织的宣传活动。
• 识别当前检测系统在方法论上的局限性。

实验结果

研究问题

• RQ1 计算宣传活动如何利用社交媒体平台与用户画像进行操作？
• RQ2 当前仅依赖自然语言处理或仅依赖网络分析的方法在检测宣传方面存在哪些局限性？
• RQ3 如何有效结合自然语言处理与网络分析以提高检测准确性？
• RQ4 在检测有组织的宣传行动中，面临哪些关键技术与伦理挑战？
• RQ5 为应对不断演变的宣传策略，未来需要哪些研究方向？

主要发现

• 计算宣传利用社交媒体的匿名性与精准定位能力，大规模影响公众舆论。
• 当前检测方法在仅依赖语言特征或网络特征时，往往无法识别有组织的宣传活动。
• 结合自然语言处理与网络分析的方法在识别非真实行为与有组织的信息传播方面展现出更大潜力。
• 现代宣传的复杂性要求自然语言处理与网络分析研究人员开展跨学科合作。
• 未来的检测系统必须考虑不断演变的策略，如自适应信息传播与动态网络结构。
• 监控与隐私相关的伦理问题仍是部署检测系统时的重大挑战。