[论文解读] DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses

Yaxin Li, Wei Jin+2 more|arXiv (Cornell University)|May 13, 2020

Adversarial Robustness in Machine Learning参考文献 34被引用 78

一句话总结

DeepRobust 是一个基于 PyTorch 的库，提供超过 10 种图像攻击、8 种图像防御、9 种图（图结构）攻击，以及 4 种图结构防御，旨在促进跨图像与图领域的对抗性研究。

ABSTRACT

DeepRobust is a PyTorch adversarial learning library which aims to build a comprehensive and easy-to-use platform to foster this research field. It currently contains more than 10 attack algorithms and 8 defense algorithms in image domain and 9 attack algorithms and 4 defense algorithms in graph domain, under a variety of deep learning architectures. In this manual, we introduce the main contents of DeepRobust with detailed instructions. The library is kept updated and can be found at https://github.com/DSE-MSU/DeepRobust.

研究动机与目标

• 激发建立一个统一、可扩展的平台以在图像和图数据上研究对抗性攻击与防御的需求。
• 提供一套全面的具代表性的攻击和防御算法，以实现系统化的实验。
• 促进与不同网络架构和标准数据集的轻松集成，以实现快速的研究迭代。

提出的方法

• 将攻击和防御实现组织为两个主要组件：图像包和图包，具有明确定义的基类和子类算法。
• 实现一套图像攻击（LBFGS、FGSM、PGD、CW、OnePixel、DeepFool、BPDA、Universal、Nattack）和防御（对抗性训练、梯度屏蔽、检测）。
• 在 GCN 主干上实现面向目标和无目标的图攻击及防御，数据集包括 Cora、Citeseer、Pubmed 等。
• 描述关键攻击和防御的数学公式，包括约束优化问题和目标函数（如 L2 距离、交叉熵损失、最大边际风格准则）。
• 提供在库内训练、攻击和防御模型的实际使用工作流与示例代码片段。
• 确保环境要求与安装设置有文档化以保证可重复性。

实验结果

研究问题

• RQ1 在统一的 PyTorch 库中，最具代表性的图像和图攻击与防御算法有哪些？
• RQ2 如何让单一框架以一致的接口同时支持图像和图的对抗方法？
• RQ3 将标准防御策略（对抗性训练、梯度屏蔽、检测）应用于多种模态时的有效性如何？
• RQ4 研究人员能否在集中库中高效地跨架构和数据集进行实验？

主要发现

• 该库目前包含超过 10 种图像攻击和 8 种图像防御，以及 9 种图攻击和 4 种图防御，覆盖多种架构。
• 它提供两组件设计（图像和图）及基类以支持可扩展性和统一 API。
• 该论文概述了在 DeepRobust 内训练、攻击和评估模型的具体实现与使用模式。
• 示例展示了训练网络、生成对抗样本、应用防御和评估鲁棒性的实际工作流。
• DeepRobust 强调最新覆盖范围以及持续更新以包含新模型和数据集。