[论文解读] Adversarial Coordination on Social Networks

Chen Hajaj, Sixie Yu+2 more|arXiv (Cornell University)|Aug 3, 2018

Opinion Dynamics and Social Influence参考文献 42被引用 3

一句话总结

本文通过人类被试实验与数据驱动的基于代理的建模，研究社交网络中的对抗性协同行为，发现网络邻居之间的通信显著提升了对对抗性节点的共识鲁棒性，而可信节点仅在敌对节点数量较多且通信被启用时才发挥作用。对抗性节点通过反对局部共识并发送误导性信息来微妙地破坏协调，但其行为被刻意抑制以避免被检测。

ABSTRACT

Decentralized coordination is one of the fundamental challenges for societies and organizations. While extensively explored from a variety of perspectives, one issue which has received limited attention is human coordination in the presence of adversarial agents. We study this problem by situating human subjects as nodes on a network, and endowing each with a role, either regular (with the goal of achieving consensus among all regular players), or adversarial (aiming to prevent consensus among regular players). We show that adversarial nodes are, indeed, quite successful in preventing consensus. However, we demonstrate that having the ability to communicate among network neighbors can considerably improve coordination success, as well as resilience to adversarial nodes. Our analysis of communication suggests that adversarial nodes attempt to exploit this capability for their ends, but do so in a somewhat limited way, perhaps to prevent regular nodes from recognizing their intent. In addition, we show that the presence of trusted nodes generally has limited value, but does help when many adversarial nodes are present and players can communicate. Finally, we use experimental data to develop a computational model of human behavior, and explore a number of additional parametric variations, such as features of network topologies, using the resulting data-driven agent-based model.

研究动机与目标

• 研究在部分代理主动破坏协调的对抗性影响下，社交网络中的去中心化共识机制。
• 评估在存在对抗性代理的情况下，邻居节点之间通信对共识成功率的影响。
• 评估可信节点在提升对对抗性篡改的协调鲁棒性方面的有效性。
• 基于实验结果，构建数据驱动的基于代理的人类行为模型，用于仿真与参数分析。

提出的方法

• 开展人类被试实验，将参与者分配为网络社交结构中的普通代理或对抗性代理。
• 实施两个关键设计变量：启用邻居之间的点对点通信，以及在网络中嵌入可信节点。
• 收集人类被试的行为数据，用于标定反映观察到的人类决策模式的计算型基于代理模型。
• 利用标定后的模型，在不同网络拓扑和对抗性配置下模拟共识结果。
• 系统性地改变网络参数，如密度、聚类系数和度分布，以分析其对共识率的影响。
• 优化对抗性节点与可信节点的布局，以评估在不同网络环境中策略性优势。

实验结果

研究问题

• RQ1 在存在对抗性代理的情况下，启用邻居节点之间的通信如何影响共识成功率？
• RQ2 当存在对抗性代理时，嵌入可信节点对协调鲁棒性有何影响？
• RQ3 对抗性代理如何战略性地破坏共识？其恶意意图在多大程度上暴露？
• RQ4 网络拓扑特征（如密度、聚类和度分布）在对抗性条件下如何影响共识率？
• RQ5 代理行为模型或节点布局策略中的微小参数变化在多大程度上影响共识结果？

主要发现

• 邻居之间的通信显著提高了共识率，尤其在对抗性节点数量增加时，这与先前认为其影响有限的研究发现相反。
• 可信节点整体带来的增益有限，但当对抗性存在较高且通信被启用时，其价值凸显。
• 对抗性节点通过选择与本地邻域多数相反的颜色并发送误导性信息，主动破坏协调，但其行为被刻意抑制以保持隐蔽。
• 网络密度的提高增强了共识率，并放大了可信节点的价值，尤其是在存在多个可信节点时。
• 较高的聚类性倾向于损害协调，但这种负面影响在对抗性存在增加时减弱，且在此类环境中可信节点无法提供有意义的改善。
• 重尾度分布（如无标度网络）在敌对节点较少时能提升共识，但当敌对节点达到五个或以上时，这种优势消失，因为高阶度节点被攻破的可能性更高。