[논문 리뷰] DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses

Yaxin Li, Wei Jin외 2명|arXiv (Cornell University)|2020. 05. 13.

Adversarial Robustness in Machine Learning참고 문헌 34인용 수 78

한 줄 요약

DeepRobust는 이미지 및 그래프 도메인 전반에 걸친 적대적 연구를 촉진하기 위해 이미지 공격 10개 이상, 이미지 방어 8개, 그래프 공격 9개, 그래프 방어 4개를 제공하는 PyTorch 기반 라이브러리이다.

ABSTRACT

DeepRobust is a PyTorch adversarial learning library which aims to build a comprehensive and easy-to-use platform to foster this research field. It currently contains more than 10 attack algorithms and 8 defense algorithms in image domain and 9 attack algorithms and 4 defense algorithms in graph domain, under a variety of deep learning architectures. In this manual, we introduce the main contents of DeepRobust with detailed instructions. The library is kept updated and can be found at https://github.com/DSE-MSU/DeepRobust.

연구 동기 및 목표

• 이미지 데이터와 그래프 데이터 모두에 걸친 적대적 공격과 방어를 연구하기 위한 통합되고 확장 가능한 플랫폼의 필요성을 제시한다.
• 체계적인 실험을 가능하게 하는 대표적인 공격 및 방어 알고리즘의 포괄적 세트를 제공한다.
• 빠른 연구 반복을 위한 다양한 네트워크 아키텍처 및 표준 데이터셋과의 쉬운 통합을 촉진한다.

제안 방법

• 공격 및 방어 구현을 두 가지 주요 구성요소로 정리한다: 명확하게 정의된 기본 클래스와 하위 알고리즘이 포함된 이미지 패키지와 그래프 패키지.
• 이미지 공격(LBFGS, FGSM, PGD, CW, OnePixel, DeepFool, BPDA, Universal, Nattack)과 방어(adversarial training, gradient masking, detection)의 도구모음을 구현한다.
• GCN 백본 위에 표적적 및 비표적(graph) 공격과 방어를 구현하고, Cora, Citeseer, Pubmed 등과 같은 데이터셋을 활용한다.
• 제약된 최적화 문제와 목적 함수(예: L2 거리, 교차 엔트로피 손실, 최대-마진 스타일의 기준)를 포함한 주요 공격과 방어에 대한 수학적 형식을 설명한다.
• 라이브러리 내에서 모델을 학습, 공격 및 방어하기 위한 실용적 사용 흐름과 예제 스니펫을 제공한다.
• 재현성을 위한 환경 요구사항과 설정이 문서화되어 있는지 확인한다.

실험 결과

연구 질문

• RQ1 단일 PyTorch 라이브러리 내에서 이미지와 그래프에 대해 가장 대표적인 공격 및 방어 알고리즘은 무엇인가?
• RQ2 일관된 인터페이스를 갖춘 하나의 프레임워크가 이미지 및 그래프 적대적 방법을 어떻게 모두 지원할 수 있는가?
• RQ3 다양한 모달리티에 적용할 때 표준 방어 전략(적대적 학습, 그래디언트 마스킹, 탐지)의 효과는 어느 정도인가?
• RQ4 연구자들이 중앙화된 라이브러리를 사용하여 아키텍처와 데이터세트 전반에 걸쳐 효율적으로 실험할 수 있는가?

주요 결과

• 현재 라이브러리는 다수의 아키텍처에 걸쳐 이미지 공격 10개 이상 및 이미지 방어 8개를 보유하고 있으며, 그래프 공격 9개 및 그래프 방어 4개도 포함한다.
• 확장성 및 일관된 API를 지원하기 위한 기본 클래스를 갖춘 두 구성요소 디자인(이미지와 그래프)을 제공한다.
• 이 논문은 DeepRobust 내에서 모델을 학습, 공격 및 평가하기 위한 구체적 구현 및 사용 패턴을 제시한다.
• 예제는 네트워크를 학습시키고, 적대적 예를 생성하며, 방어를 적용하고, 강건성을 평가하는 실용적 워크플로를 보여준다.
• DeepRobust는 최신 커버리지와 새로운 모델 및 데이터셋을 포함하기 위한 지속적인 업데이트를 강조한다.