[논문 리뷰] advertorch v0.1: An Adversarial Robustness Toolbox based on PyTorch

Gavin Weiguang Ding, Luyu Wang외 1명|arXiv (Cornell University)|2019. 02. 20.

Adversarial Robustness in Machine Learning참고 문헌 22인용 수 143

한 줄 요약

advertorch v0.1은 adversarial 공격, 방어 및 강인한 학습 방법의 구현을 제공하는 PyTorch 기반 도구상자이며, BPDA 래퍼와 공격-루프 연구를 위한 명확한 설계를 갖추고 있습니다.

ABSTRACT

advertorch is a toolbox for adversarial robustness research. It contains various implementations for attacks, defenses and robust training methods. advertorch is built on PyTorch (Paszke et al., 2017), and leverages the advantages of the dynamic computational graph to provide concise and efficient reference implementations. The code is licensed under the LGPL license and is open sourced at https://github.com/BorealisAI/advertorch .

연구 동기 및 목표

• 적대적 강인성 연구를 간소화하기 위해 공격과 방어를 위한 간결하고 일관된 API를 제공한다.
• 빠른 실행을 위해 PyTorch 동적 그래프를 활용한 간결한 참조 구현을 제공한다.
• GPU 가속을 통한 공격-루프 워크플로우(예: 적대적 학습)를 지원한다.
• 모듈식 설계를 갖춘 전처리 기반 방어와 강건한 학습 접근법을 포함한다.
• 재현 가능한 벤치마크 결과를 가능하게 하는 버전 관리 및 보고 관행을 확립한다.

제안 방법

• 예측 함수(predict function), 손실 함수(loss_fn), 및 섭동 방법(perturb method) 등 모듈식 핵심 구성요소로 그래디언트 기반 공격을 구현한다.
• 그래디언트 기반 방법 외의 추가 공격을 포함한다(예: SinglePixelAttack, LocalSearchAttack, JacobianSaliencyMapAttack).
• 비미분 가능하거나 그래디언트 마스킹을 하는 방어에 대해 역전파를 대체하는 BPDAWrapper를 제공한다.
• 전처리 기반 방어를 PyTorch 모듈로 통합한다(예: JPEGFilter, BitSqueezing, smoothing filters).
• Madry 스타일의 적대적 학습 및 입증 가능한 강건 학습을 예시로 포함한 강건 학습 참조를 제공한다(예: advertorch_examples에서).
• Semantic Versioning 2.0.0을 따르고 재현성을 위한 벤치마크 하이퍼파라미터를 문서화한다.

실험 결과

연구 질문

• RQ1 advertorch v0.1에서 구현된 공격은 무엇이며 유연성을 위해 어떻게 구성되어 있는가?
• RQ2 BPDAWrapper가 비미분 가능 구성요소를 가진 방어된 모델에 대해 공격을 가능하게 하는 방식은?
• RQ3 제공되는 전처리 기반 방어는 무엇이며 어떻게 구성할 수 있는가?
• RQ4 제시된 강건 학습 접근법은 무엇이며 참조 구현을 위해 어떻게 구성되어 있는가?
• RQ5 버전 간 재현성을 보장하기 위해 벤치마크 결과를 어떻게 보고해야 하는가?

주요 결과

• 도구상자는 분리된 코어 설계(predict, loss_fn, perturb)로 다양한 그래디언트 기반 공격과 다른 유형의 공격을 제공합니다.
• BPDAWrapper는 역전파를 대체하여 방어된 모델에 대해 그래디언트 기반 공격을 가능하게 하며, Straight-Through Estimators를 포함합니다.
• 전처리 기반 방어는 즉시 구성할 수 있는 모듈식 PyTorch 구성요소로 구현되어 있습니다.
• 강건 학습 참조가 포함되어 있으며, advertorch_examples에 Madry 스타일의 적대적 학습 예시 구현이 있습니다.
• 프로젝트는 Semantic Versioning을 준수하며 벤치마크를 위한 하이퍼파라미터 상세 보고를 강조합니다.