[论文解读] Network disruption: maximizing disagreement and polarization in social networks

Mayee F. Chen, Miklós Z. Rácz|arXiv (Cornell University)|Mar 18, 2020

Opinion Dynamics and Social Influence参考文献 17被引用 6

一句话总结

本文提出了一种网络破坏的对抗性模型，其中攻击者通过控制社交网络中有限数量的用户资料，以最大化意见分歧与极化程度。基于Friedkin-Johnsen意见动态模型，研究发现即使采用简单的启发式策略（如针对中间立场用户），也能导致分歧与极化程度呈线性增长，凸显了社交网络在低复杂度攻击下的脆弱性。

ABSTRACT

Recent years have seen a marked increase in the spread of misinformation, a phenomenon which has been accelerated and amplified by social media such as Facebook and Twitter. While some actors spread misinformation to push a specific agenda, it has also been widely documented that others aim to simply disrupt the network by increasing disagreement and polarization across the network and thereby destabilizing society. Popular social networks are also vulnerable to large-scale attacks. Motivated by this reality, we introduce a simple model of network disruption where an adversary can take over a limited number of user profiles in a social network with the aim of maximizing disagreement and/or polarization in the network. We investigate this model both theoretically and empirically. We show that the adversary will always change the opinion of a taken-over profile to an extreme in order to maximize disruption. We also prove that an adversary can increase disagreement / polarization at most linearly in the number of user profiles it takes over. Furthermore, we present a detailed empirical study of several natural algorithms for the adversary on both synthetic networks and real world (Reddit and Twitter) data sets. These show that even simple, unsophisticated heuristics, such as targeting centrists, can disrupt a network effectively, causing a large increase in disagreement / polarization. Studying the problem of network disruption through the lens of an adversary thus highlights the seriousness of the problem.

研究动机与目标

• 研究攻击者如何通过有限控制用户资料来增加社交网络中的分歧与极化程度。
• 评估是否需要复杂策略才能实现有效网络破坏，还是简单启发式方法已足够。
• 理解在不同网络结构与意见动态下，此类破坏的理论与实证极限。
• 探讨这些发现对设计防御机制以应对网络级操纵的启示。
• 评估结果在不同意见动态模型与真实世界网络数据（Reddit、Twitter）中的鲁棒性。

提出的方法

• 将社交网络建模为加权图 $G = (V, E, w)$，其中顶点代表用户，边代表社交联系，边权表示联系强度。
• 为每位用户分配固有意见 $s_v \in [0,1]$，并应用Friedkin-Johnsen模型计算均衡意见 $z = (I + L)^{-1}s$，其中 $L$ 为加权拉普拉斯矩阵。
• 将分歧 $D = \sum_{(u,v)\in E} w_{uv}(z_u - z_v)^2$ 与极化 $P = \sum_{v\in V}(z_v - \overline{z})^2$ 定义为网络破坏的关键度量指标。
• 将攻击者建模为可控制最多 $k$ 个节点，并将其固有意见 $s_v$ 修改为极端值（0 或 1），以最大化 $D$ 与 $P$。
• 在合成网络及真实世界Reddit与Twitter数据集上，实证评估多种启发式方法——贪心法、基于中心性的方法、随机法与基于平均意见的方法。
• 使用加权和目标函数 $\lambda D + (1-\lambda)P$，在不同 $k$ 值下评估综合破坏性能。

实验结果

研究问题

• RQ1 攻击者是否能仅通过少量被攻陷的用户资料，显著增加网络的分歧与极化程度？
• RQ2 实现有效破坏是否需要复杂的目标选择策略，还是简单的启发式方法（如针对中心用户或随机节点）已足够？
• RQ3 在不同网络拓扑结构下，破坏启发式方法的性能如何随被攻陷节点数 $k$ 的变化而扩展？
• RQ4 结果在不同意见动态模型与真实社交网络结构下如何变化？
• RQ5 攻击者所能实现的分歧与极化程度最大增幅的理论极限是什么？

主要发现

• 攻击者始终通过将被攻陷节点的固有意见设为极端值（0 或 1）来实现最大破坏，因为这能最大化意见方差与边级分歧。
• 分歧与极化程度的最大增幅与被攻陷节点数 $k$ 呈线性关系，从而确立了破坏潜力的理论上限。
• 在Reddit数据集中，仅攻陷20个节点（占网络的3.6%）就使分歧程度增加逾10倍（从0.09增至1.14），极化程度也增加逾10倍（从0.07增至0.72）。
• 贪心启发式方法在所有指标与数据集中始终优于其他方法，显示出即使在 $k$ 较小时也具有强大的实证有效性。
• 在意见分布中性且高度聚集的网络中，简单启发式方法（如随机或基于平均意见的目标选择）与更复杂策略表现相当，尤其在这些网络中。
• 结果表明，仅需极低复杂度的策略即可实现高度可行的网络破坏，凸显了社交网络在低投入对抗攻击下的脆弱性。