[论文解读] Technical Report on the CleverHans v2.1.0 Adversarial Examples Library

Nicolas Papernot, Fartash Faghri+24 more|arXiv (Cornell University)|Oct 3, 2016

Adversarial Robustness in Machine Learning参考文献 2被引用 404

一句话总结

CleverHans v2.1.0 提供标准化的 TensorFlow 参考实现，用于对抗性攻击与防御，以实现鲁棒模型基准测试和对抗性训练。

ABSTRACT

CleverHans is a software library that provides standardized reference implementations of adversarial example construction techniques and adversarial training. The library may be used to develop more robust machine learning models and to provide standardized benchmarks of models' performance in the adversarial setting. Benchmarks constructed without a standardized implementation of adversarial example construction are not comparable to each other, because a good result may indicate a robust model or it may merely indicate a weak implementation of the adversarial example construction procedure. This technical report is structured as follows. Section 1 provides an overview of adversarial examples in machine learning and of the CleverHans software. Section 2 presents the core functionalities of the library: namely the attacks based on adversarial examples and defenses to improve the robustness of machine learning models to these attacks. Section 3 describes how to report benchmark results using the library. Section 4 describes the versioning system.

研究动机与目标

• 提供标准化的对抗样本构造技术的参考实现。
• 实现对抗性训练和鲁棒模型开发。
• 通过使用共同的攻击库确保基准结果具有可比性。
• 描述库结构、版本控制和基准测试的报告指南。

提出的方法

• 实现 attack 模块，具备 Attack 接口和多种具体攻击算法。
• 提供 Model 抽象以便与各种框架（Keras、TensorFlow 等）集成。
• 在训练管线中包含防御措施，例如对抗性训练。
• 提供报告指南，确保可重复的基准和版本化结果。
• 采用语义版本控制并为基准的可比性记录发行说明。

实验结果

研究问题

• RQ1 标准化攻击实现如何提升对抗性鲁棒性基准的可比性？
• RQ2 CleverHans v2.1.0 实现了哪些攻击和防御，它们如何与不同的模型框架交互？
• RQ3 研究人员应如何报告基准结果，以确保跨版本的可重复性？

主要发现

• 一个攻击库包含 FGSM、BIM、PGD、CW、EAD、JSMA、DeepFool、SPSA 等，以及对应的生成函数。
• 防御措施主要集中在在训练管线中实现的对抗性训练。
• 版本控制指南强调兼容性、可重复性，以及对攻击方法和配置的明确报告。
• 该库是开源、基于 TensorFlow 的，并且旨在在接口层面实现框架无关。
• 基准报告应指定 CleverHans 版本和攻击配置以确保可比性。