[论文解读] A Survey of Adversarial Learning on Graphs

Liang Chen, Jintang Li+7 more|arXiv (Cornell University)|Mar 10, 2020

Advanced Graph Neural Networks参考文献 62被引用 58

一句话总结

本综述统一了图对抗学习的定义和分类法，涵盖攻击、防御、评估指标以及未解问题，并提供一个用于最新进展的 GitHub 资源。

ABSTRACT

Deep learning models on graphs have achieved remarkable performance in various graph analysis tasks, e.g., node classification, link prediction, and graph clustering. However, they expose uncertainty and unreliability against the well-designed inputs, i.e., adversarial examples. Accordingly, a line of studies has emerged for both attack and defense addressed in different graph analysis tasks, leading to the arms race in graph adversarial learning. Despite the booming works, there still lacks a unified problem definition and a comprehensive review. To bridge this gap, we investigate and summarize the existing works on graph adversarial learning tasks systemically. Specifically, we survey and unify the existing works w.r.t. attack and defense in graph analysis tasks, and give appropriate definitions and taxonomies at the same time. Besides, we emphasize the importance of related evaluation metrics, investigate and summarize them comprehensively. Hopefully, our works can provide a comprehensive overview and offer insights for the relevant researchers. Latest advances in graph adversarial learning are summarized in our GitHub repository https://github.com/EdisonLeeeee/Graph-Adversarial-Learning.

研究动机与目标

• 为图对抗攻击和防御提供统一表述。
• 从多种角度对攻击/防御方法进行分类（知识、目标、能力、策略）。
• 总结评估指标并强调任务相关的考虑。
• 强调局限性和未解问题以指导未来研究。

提出的方法

• 给出图攻击和防御的统一问题表述（例如 Eq. 2 及相关定义）。
• 基于攻击者知识（white/gray/black/no-box）、目标（security violation, error specificity, attack specificity）和能力（poisoning vs evasion）构建攻击分类法。
• 描述攻击策略（拓扑/特征/混合）及操作修改（Add/Rem/Rew）及预算和扰动。
• 区分目标任务（node、link、graph）并提供与任务对齐的攻击/防御视角。
• 描述攻击算法（梯度/非梯度/ RL/ 生成模型）及代理模型考虑。
• 总结评估指标和在图对抗学习中的实际考虑。

实验结果

研究问题

• RQ1 如何在各任务中对图对抗攻击和防御进行一致的定义和表述？
• RQ2 哪些分类法最能组织图对抗学习的全景，原因何在？
• RQ3 哪些评估指标能可靠地衡量攻击影响、防御鲁棒性和感知度？
• RQ4 在图对抗学习中当前的局限性与未解问题有哪些？

主要发现

• 提出统一的图对抗攻击和防御的定义与表述，以解决不一致的问题。
• 提供一个系统的分类法，涵盖攻击者的知识、目标、能力和策略。
• 强调在有效性、效率和不可感知性方面对图对抗任务的评估指标。
• 综述指出未解问题与局限性，为未来研究方向指明方向。
• 维护一个 GitHub 仓库，总结并分享图对抗学习的最新进展。