[论文解读] A Synchronized Action Framework for Responsible Detection of Coordination on Social Media

Thomas Magelinski, Lynnette Hui Xian Ng+1 more|arXiv (Cornell University)|May 16, 2021

Misinformation and Its Impacts参考文献 18被引用 7

一句话总结

本文提出了一种同步行动框架，通过分析用户在多个行为维度（如话题标签、URL 和提及）上的同步行为多视角网络，实现对社交媒体上协同活动的负责任检测。该框架应用于 Reopen America 的 Twitter 讨论中，识别出三个协同活动，其中包括一个复杂且隐蔽的用户网络，其以同步、地理定向的方式放大抗议言论。

ABSTRACT

The study of coordinated manipulation of conversations on social media has become more prevalent as social media's role in amplifying misinformation, hate, and polarization has come under scrutiny. We discuss the implications of successful coordination detection algorithms based on shifts of power, and consider how responsible coordination detection may be carried out through synchronized action. We then propose a Synchronized Action Framework for detection of automated coordination through construction and analysis of multi-view networks. We validate our framework by examining the Reopen America conversation on Twitter, discovering three coordinated campaigns. We further investigate covert coordination surrounding the protests and find the task to be far more complex than examples seen in prior work, demonstrating the need for our multi-view approach. A cluster of suspicious users is identified and the activity of three members is detailed. These users amplify protest messages using the same hashtags at very similar times, though they all focus on different states. Through this analysis, we emphasize both the potential usefulness of coordination detection algorithms in investigating amplification, and the need for careful and responsible deployment of such tools.

研究动机与目标

• 解决协调检测工具可能错误地针对真实人类协调行为所带来的伦理风险。
• 开发一种负责任的多视角方法，以检测社交媒体上的协同行为，而无需依赖单一行为或单一视角的分析。
• 在真实世界数据上验证该框架，特别是在检测 Reopen America 抗议活动期间复杂且隐蔽的协调行为方面。
• 证明即使用户个体看似真实，其话题标签和提及使用的时间同步性等同步行为仍可揭示协同活动。
• 强调多行为、时间同步分析的重要性，以减少误报，并提升对细微协同影响行动的检测能力。

提出的方法

• 构建多视角网络，其中节点代表用户，边代表在多个行为维度上表现出同步行为（例如，在相近时间使用相同话题标签）的连接。
• 采用同步行动检测机制，识别在多个行为类型中于狭窄时间窗口内表现出完全相同或高度相似行为的用户。
• 应用加权方案，以减少因流行但非协同的行为（如病毒式传播的话题标签）导致的误报，同时保留协调结构。
• 将话题标签使用、URL 分享和提及活动等多种行为类型整合到统一的多视角网络中，进行联合分析。
• 在多视角网络上应用聚类技术，识别在多个维度上表现出同步行为的可疑用户群体。
• 使用来自 Reopen America 抗议活动的大规模 Twitter 数据集验证该框架，重点关注协同行为的时间对齐性与网络结构。

实验结果

研究问题

• RQ1 如何负责任地开展协调检测，以避免对真实人类协调行为造成伤害？
• RQ2 单视角网络分析在多大程度上无法检测到社交媒体上的复杂隐蔽协调？
• RQ3 在多个行为维度（如话题标签、提及、URL）上实现同步行为，是否能相比孤立视角显著提升协同活动的检测能力？
• RQ4 传统方法难以检测到的协同活动具有怎样的结构与时间特征？
• RQ5 多视角网络分析如何提升在真实世界抗议相关对话中识别可疑用户群的能力？

主要发现

• 同步行动框架在 Reopen America 的 Twitter 讨论中成功检测出三个协同活动，其中包括一个隐蔽的用户网络，其以同步、地理定向的方式放大抗议言论。
• 该框架识别出一个可疑用户群，其通过在几乎相同时间使用相同的话题标签并提及相同账户，实现协同，且聚焦于美国不同州。
• Reopen America 抗议活动中的隐蔽协调远比以往研究的模板化协同活动更复杂，因此必须依赖多视角分析才能检测。
• 固定时间窗的网络构建方法在行为分布均匀的情况下可能遗漏高达 50% 的潜在连接，凸显了同步行动检测的必要性。
• 对流行行为进行降权的加权方案虽能减少误报，但会模糊网络结构，表明这一权衡必须在未来设计中谨慎处理。
• 该框架的多视角方法相比单视角分析显著提升了检测准确性，减少了歧义——例如，避免将使用相同话题标签的对立观点误判为协同行为。