[论文解读] Adversarial Classification on Social Networks

Sixie Yu, Yevgeniy Vorobeychik+1 more|arXiv (Cornell University)|Jan 24, 2018

Misinformation and Its Impacts参考文献 24被引用 7

一句话总结

本文提出了一种基于Stackelberg博弈的框架，用于在社交网络中检测恶意内容，该框架同时建模攻击者行为（内容与节点选择）以及防御者策略（异构的、与网络相关的检测器）。该方法引入了一种新颖的双层优化方法，结合隐式梯度技术，显著优于同质化和非对抗性检测方法，在多种网络拓扑结构下均有效减少了恶意内容的传播。

ABSTRACT

The spread of unwanted or malicious content through social media has become a major challenge. Traditional examples of this include social network spam, but an important new concern is the propagation of fake news through social media. A common approach for mitigating this problem is by using standard statistical classification to distinguish malicious (e.g., fake news) instances from benign (e.g., actual news stories). However, such an approach ignores the fact that malicious instances propagate through the network, which is consequential both in quantifying consequences (e.g., fake news diffusing through the network), and capturing detection redundancy (bad content can be detected at different nodes). An additional concern is evasion attacks, whereby the generators of malicious instances modify the nature of these to escape detection. We model this problem as a Stackelberg game between the defender who is choosing parameters of the detection model, and an attacker, who is choosing both the node at which to initiate malicious spread, and the nature of malicious entities. We develop a novel bi-level programming approach for this problem, as well as a novel solution approach based on implicit function gradients, and experimentally demonstrate the advantage of our approach over alternatives which ignore network structure.

研究动机与目标

• 为解决传统同质分类器在检测通过社交网络传播的恶意内容时存在的局限性。
• 建模防御者部署检测器与攻击者选择起始节点及内容以规避检测之间的战略互动。
• 将网络拓扑结构和内容特定的扩散动态整合到检测过程中，以提升鲁棒性。
• 开发一种可扩展的双层优化解决方案，适用于对抗性网络环境，利用隐函数梯度。
• 证明与网络相关的异构检测策略在真实网络拓扑结构下显著优于标准方法。

提出的方法

• 将检测问题形式化为防御者（选择检测器参数）与攻击者（选择攻击节点和内容以规避检测）之间的Stackelberg博弈。
• 将内容传播建模为内容特征的函数，扩展了传统影响力模型以捕捉内容依赖的传播特性。
• 将防御者的问题表示为双层优化：上层选择检测器参数，下层计算攻击者的最优响应。
• 应用KKT条件将双层规划问题简化为单层优化问题。
• 利用显式与隐式梯度信息，推导出一种投影梯度下降算法，以实现高效优化。
• 采用启发式方法通过求解已知攻击节点的受限变体问题来解决完整问题。

实验结果

研究问题

• RQ1 将网络结构整合到检测器设计中，是否能提升在社交网络中对抗性内容检测的性能？
• RQ2 在存在策略性攻击者的情况下，内容依赖的扩散对检测策略有效性有何影响？
• RQ3 在对抗性内容演化背景下，防御者的异构、节点特定检测策略是否能优于同质化或个性化阈值方法？
• RQ4 防御者预见并响应对抗性内容修改的能力，如何影响整体网络层面的防护效果？
• RQ5 与标准对抗性训练或微调方法相比，所提出的结合隐式梯度的双层优化框架在多大程度上提升了鲁棒性？

主要发现

• 所提方法显著优于所有基线方法，包括同质分类、对抗性微调以及个性化阈值调优，尤其在攻击者预算较高时表现更优。
• 当攻击者预算为 ε = 0.01 时，所提方法与其它方法之间的性能差距尤为显著，表明其具有强大的鲁棒性。
• 该方法在无标度（Barabási-Albert）网络中表现出极强的韧性，其中度异质性进一步凸显了节点特定检测策略的价值。
• 个性化阈值调优优于完整微调，表明网络拓扑感知能力比单纯的对抗鲁棒性更为关键。
• 在小世界网络中，尽管性能下降程度低于无标度网络，但所提方法仍显著优于其他方法。
• 该方法在BA网络与小世界拓扑中均保持了强劲的性能，证实其对多样化网络结构具有良好的泛化能力。