[論文レビュー] BackdoorBox: A Python Toolbox for Backdoor Learning

Yiming Li, Mengxi Ya+3 more|arXiv (Cornell University)|Feb 1, 2023

Adversarial Robustness in Machine Learning被引用数 11

ひとこと要約

BackdoorBox は、DNN セキュリティ研究のための統一・柔軟な枠組みの下で、広範なバックドア攻撃と防御を実装・比較するオープンソースの Python ツールボックスです。

ABSTRACT

Third-party resources ($e.g.$, samples, backbones, and pre-trained models) are usually involved in the training of deep neural networks (DNNs), which brings backdoor attacks as a new training-phase threat. In general, backdoor attackers intend to implant hidden backdoor in DNNs, so that the attacked DNNs behave normally on benign samples whereas their predictions will be maliciously changed to a pre-defined target label if hidden backdoors are activated by attacker-specified trigger patterns. To facilitate the research and development of more secure training schemes and defenses, we design an open-sourced Python toolbox that implements representative and advanced backdoor attacks and defenses under a unified and flexible framework. Our toolbox has four important and promising characteristics, including consistency, simplicity, flexibility, and co-development. It allows researchers and developers to easily implement and compare different methods on benchmark or their local datasets. This Python toolbox, namely \texttt{BackdoorBox}, is available at \url{https://github.com/THUYimingLi/BackdoorBox}.

研究の動機と目的

• バックドア攻撃と防御を実装・比較するための、統一された柔軟なフレームワークを提供する。
• 一貫したインターフェースと構成可能なパイプラインによって再現可能な研究を促進する。
• ローカルデータセットとモデルをサポートし、カスタマイズされた実験を可能にする。
• 共同開発とオープンソースのホスティングを通じた協力を促進する。
• すぐに利用できる例とドキュメントを提供して参入のハードルを下げる。

提案手法

• 一貫性を確保するため、毒性のみのバックドア攻撃と訓練制御攻撃の基本クラスアーキテクチャを実装する。
• 現実的なシナリオのため、poisoned_transform_train_index/poisoned_transform_test_index を構成可能にした torchvision.transforms を介したトリガ挿入を統合する。
• 防御を6種類に分類する（前処理、モデル修復、毒性抑制、モデル診断、サンプル診断、認定防御）し、代表的な手法を実装する。
• torchvision 経由でサポートされるデータセット（MINIST、CIFAR-10）とローカルデータセットを提供し、PyTorch ベースの実装と easy setup のための requirements.txt を用意する。
• 共同開発と迅速な更新を可能にするオープンソースのコードホスティング（GitHub）を提供する。
• 攻撃と防御の両方の使用法を示す実用的なデモとテストファイルを含める。

Figure 1: The framework of our BackdoorBox .

実験結果

リサーチクエスチョン

• RQ1 複数のバックドア攻撃と防御手法をサポートする統一フレームワークの設計とは？
• RQ2 単一で一貫したインタフェースの下で、代表的なバックドア攻撃と防御はどれだけ実装できるか？
• RQ3 共通のツールボックスを使用した攻撃/防御実験はどれだけ柔軟で再現性があるか？
• RQ4 ツールボックスはどのデータセットとモデルをサポートし、ユーザーはどのように自分のデータとアーキテクチャを組み込めるか？
• RQ5 ツールボックスはベンチマークのために攻撃モジュールと防御モジュールを共同または個別に使用することを可能にできるか？

主な発見

• ツールボックスは20を超える代表的なバックドア攻撃と防御を実装している。
• すべての手法は高い一貫性と共通のベースクラスを持つ統一フレームワークの下で開発されている。
• ユーザーは自分で指定したサンプルとモデルに対して攻撃/防御を適用でき、モジュールは共同または個別に使用できる。
• BackdoorBox は Python 3 の PyTorch をサポートし、依存関係は requirements.txt に記載されている。
• 本プロジェクトは一貫性、シンプルさ、柔軟性、共同開発を強調し、GitHub でのオープンソース協力を促進している。
• 採用の容易さを図る実用的なデモ、ドキュメント、テストファイルを提供し、BadNets と PhysicalBA の例を含む。