[论文解读] Detecting Influence Campaigns in Social Networks Using the Ising Model

Nicolas Guenon des Mesnards, Tauhid Zaman|arXiv (Cornell University)|May 25, 2018

Spam and Phishing Detection参考文献 9被引用 5

一句话总结

该论文提出一种基于伊辛模型的联合机器人检测算法，通过利用异配性（heterophily）——即机器人更倾向于与人类互动而非彼此互动——来识别社交网络中的协调性影响活动。通过将网络结构与机器人标签建模为伊辛模型，该方法将最大似然估计简化为最小割问题，从而实现高效、可扩展的检测，优于基于个体账户的检测方法，并显著降低新闻类账户的误报率。

ABSTRACT

We consider the problem of identifying coordinated influence campaigns conducted by automated agents or bots in a social network. We study several different Twitter datasets which contain such campaigns and find that the bots exhibit heterophily - they interact more with humans than with each other. We use this observation to develop a probability model for the network structure and bot labels based on the Ising model from statistical physics. We present a method to find the maximum likelihood assignment of bot labels by solving a minimum cut problem. Our algorithm allows for the simultaneous detection of multiple bots that are potentially engaging in a coordinated influence campaign, in contrast to other methods that identify bots one at a time. We find that our algorithm is able to more accurately find bots than existing methods when compared to a human labeled ground truth. We also look at the content posted by the bots we identify and find that they seem to have a coordinated agenda.

研究动机与目标

• 为解决在社交网络中检测协调性影响活动（尤其是逃避传统基于个体账户检测方法的活动）的挑战。
• 识别通过孤立账户分析无法察觉的机器人联合行为模式。
• 开发一种基于网络结构而非个体账户特征的可扩展、高效检测方法。
• 区分协调性机器人与合法的高活跃度账户（如新闻机构），从而降低误报率。
• 通过分析其共享话题标签和转发行为内容，揭示检测到的机器人背后的潜在议程。

提出的方法

• 使用统计物理中的伊辛模型对社交网络和机器人标签进行建模，纳入账户之间的互动模式。
• 采用概率模型，基于网络结构推断机器人标签，其中能量项偏好异配性——即机器人更倾向于与人类互动而非其他机器人。
• 将机器人标签的最大似然估计问题简化为图中的最小割问题，从而通过网络流算法实现高效计算。
• 使用非信息性节点能量，以减少对个体账户特征的依赖，转而聚焦于结构化互动关系。
• 通过求解最小割问题，同时为网络中所有账户分配机器人标签，实现联合检测。
• 使用人工标注的真实标签验证结果，并通过ROC曲线与AUC指标与BotOrNot进行性能对比。

实验结果

研究问题

• RQ1 现代影响活动机器人是否表现出可通过网络级互动而非个体账户特征检测到的协调行为？
• RQ2 伊辛模型能否有效捕捉社交网络中机器人互动的结构性模式，特别是异配性特征？
• RQ3 与基于个体的检测方法相比，通过最小割实现的联合检测在准确率和误报率方面是否表现更优？
• RQ4 能否通过分析其共享内容与话题标签使用情况，将检测到的机器人与某种协调性议程关联起来？
• RQ5 该算法在涉及不同地缘政治事件和机器人活动的多样化数据集上表现如何？

主要发现

• 所提出的基于伊辛模型的算法在大多数数据集上取得更高的AUC（例如，BLM 2016年数据集为0.91），仅在BLM 2015年数据集上因协调性不显著而略低于BotOrNot。
• 在包含最多54.5万个账户的网络上，该算法运行时间仅需数分钟至数小时，显著快于现代替代方法，计算成本为每10万个账户3.5秒。
• 该方法显著降低了对已验证新闻机构（如CNN、NYT）的误报率，这些账户常因高活跃度被BotOrNot误判，因其依赖于互动结构而非发帖行为。
• 机器人表现出强烈的异配性——与人类的互动显著多于与其他机器人的互动，验证了模型的核心假设。
• 内容分析显示，机器人在推动特定地缘政治议程，例如通过使用#WakeUpBritain和#furherMerkel等话题标签，推动将美国本土争议国际化。
• 该方法具有语言无关性，适用于任何社交网络平台（如Facebook、Reddit、Instagram），无需语言或文化知识。