[논문 리뷰] BackdoorBox: A Python Toolbox for Backdoor Learning

Yiming Li, Mengxi Ya외 3명|arXiv (Cornell University)|2023. 02. 01.

Adversarial Robustness in Machine Learning인용 수 11

한 줄 요약

BackdoorBox는 DNN 보안 연구를 위한 통일되고 유연한 프레임워크 하에서 다양한 백도어 공격과 방어를 구현하고 비교하는 오픈 소스 파이썬 도구상자입니다.

ABSTRACT

Third-party resources ($e.g.$, samples, backbones, and pre-trained models) are usually involved in the training of deep neural networks (DNNs), which brings backdoor attacks as a new training-phase threat. In general, backdoor attackers intend to implant hidden backdoor in DNNs, so that the attacked DNNs behave normally on benign samples whereas their predictions will be maliciously changed to a pre-defined target label if hidden backdoors are activated by attacker-specified trigger patterns. To facilitate the research and development of more secure training schemes and defenses, we design an open-sourced Python toolbox that implements representative and advanced backdoor attacks and defenses under a unified and flexible framework. Our toolbox has four important and promising characteristics, including consistency, simplicity, flexibility, and co-development. It allows researchers and developers to easily implement and compare different methods on benchmark or their local datasets. This Python toolbox, namely exttt{BackdoorBox}, is available at \url{https://github.com/THUYimingLi/BackdoorBox}.

연구 동기 및 목표

• 백도어 공격과 방어를 구현하고 비교하기 위한 통일되고 유연한 프레임워크를 제공합니다.
• 일관된 인터페이스와 구성 가능한 파이프라인을 통해 재현 가능한 연구를 촉진합니다.
• 로컬 데이터셋과 모델을 지원하여 맞춤형 실험을 가능하게 합니다.
• 공동 개발과 오픈 소스 호스팅을 통해 협업을 장려합니다.
• 진입 장벽을 낮추기 위한 바로 사용 가능한 예제와 문서를 제공합니다.

제안 방법

• 일관성을 보장하기 위해 포이즌 전용 백도어 공격과 학습 제어 공격을 위한 기본 클래스 아키텍처를 구현합니다.
• 현실적인 시나리오를 위해 torchvision.transforms를 통한 트리거 삽입을 통합하고 구성 가능한 poisoned_transform_train_index/poisoned_transform_test_index를 제공합니다.
• 방어를 여섯 가지 유형(전처리, 모델 수리, 독성 억제, 모델 진단, 샘플 진단, 인증된 방어)으로 분류하고 대표적인 방법을 구현합니다.
• torchvision을 통한 지원 데이터셋(MINIST, CIFAR-10) 및 로컬 데이터셋을 제공하고, 손쉬운 설정을 위한 PyTorch 기반 구현과 requirements.txt를 포함합니다.
• 공동 개발과 빠른 업데이트를 가능하게 하는 오픈 소스 코드 호스팅(GitHub)을 제공합니다.
• 공격과 방어 양쪽의 사용법을 보여주는 실용적인 데모와 테스트 파일을 포함합니다.

Figure 1: The framework of our BackdoorBox .

실험 결과

연구 질문

• RQ1 여러 개의 백도어 공격 및 방어 방법을 지원하는 통합 프레임워크의 설계는 무엇인가요?
• RQ2 단일하고 일관된 인터페이스 아래에서 얼마나 많은 대표적 백도어 공격 및 방어를 구현할 수 있나요?
• RQ3 공통 도구 상자를 사용할 때 공격/방어 실험은 얼마나 유연하고 재현 가능한가요?
• RQ4 도구 상자는 어떤 데이터셋과 모델을 지원하며, 사용자가 자신의 데이터와 아키텍처를 어떻게 도입할 수 있나요?
• RQ5 도구 상자가 벤치마킹을 위해 공격 모듈과 방어 모듈의 공동 사용 또는 분리를 촉진할 수 있나요?

주요 결과

• 도구 상자는 20개 이상 대표적 백도어 공격 및 방어를 구현합니다.
• 모든 방법은 1 Unified 프레임워크 하에 높은 일관성과 공유 베이스 클래스를 가지고 개발되었습니다.
• 사용자는 사용자 지정 샘플과 모델에 공격/방어를 적용할 수 있으며, 모듈은 함께 또는 분리하여 사용할 수 있습니다.
• BackdoorBox는 Python 3의 PyTorch를 지원하며, 종속성은 requirements.txt에 나열되어 있습니다.
• 이 프로젝트는 GitHub의 오픈 소스 협업과 함께 일관성, 단순성, 유연성, 공동 개발을 강조합니다.
• 실용적인 데모, 문서 및 테스트 파일을 제공하여 채택을 용이하게 하며, BadNets 및 PhysicalBA의 예제를 포함합니다.