[논문 리뷰] An integrated Auto Encoder-Block Switching defense approach to prevent adversarial attacks

Anirudh Yadav, Ashutosh Upadhyay‬외 1명|arXiv (Cornell University)|2022. 03. 11.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 논문은 흑색상 공격에 대한 강건성을 높이기 위해 편향 제거를 위한 오토인코더와 블록 스위칭 아키텍처를 조합한 새로운 방어 메커니즘을 제안한다. FGSM 공격에 대해 평가한 결과, 입력을 재구성하고 네트워크 블록을 동적으로 변경함으로써 오분류율을 크게 감소시켜 공격에 대한 저항력을 향상시켰다.

ABSTRACT

According to recent studies, the vulnerability of state-of-the-art Neural Networks to adversarial input samples has increased drastically. A neural network is an intermediate path or technique by which a computer learns to perform tasks using Machine learning algorithms. Machine Learning and Artificial Intelligence model has become a fundamental aspect of life, such as self-driving cars [1], smart home devices, so any vulnerability is a significant concern. The smallest input deviations can fool these extremely literal systems and deceive their users as well as administrator into precarious situations. This article proposes a defense algorithm that utilizes the combination of an auto-encoder [3] and block-switching architecture. Auto-coder is intended to remove any perturbations found in input images whereas the block switching method is used to make it more robust against White-box attacks. The attack is planned using FGSM [9] model, and the subsequent counter-attack by the proposed architecture will take place thereby demonstrating the feasibility and security delivered by the algorithm.

연구 동기 및 목표

• 최소한의 편향으로 인해 심화되는 딥 네URAL 네트워크의 적대적 입력에 대한 점점 증가하는 취약성을 해결하기 위해.
• 적대자가 모델 아키텍처와 파rameter에 대한 전체 액세스 권한을 가진 화이트박스 공격에 대한 방어 강건성을 향상시키기 위해.
• 입력 재구성용 오토인코딩과 공격자에 대한 모델의 불확실성 증가를 위한 동적 블록 스위칭을 통합하기 위해.
• 통제된 평가 환경에서 FGSM 기반 적대적 공격에 대해 제안된 하이브리드 방어의 효과성을 검증하기 위해.

제안 방법

• 적대적 공격에서 유도된 미세하고 인지하기 어려운 편향을 제거함으로써 입력 이미지를 재구성하는 데 목적이 있는 오토인코더를 훈련한다.
• 추론 도중 네트워크 내 잔차 블록을 동적으로 재구성함으로써 적대적 패턴을 방해하는 블록 스위칭 메커니즘을 구현한다.
• 오토인코더의 노이즈 제거 능력과 블록 스위칭의 구조적 무작위성을 조합하여 모델의 강건성을 향상시킨다.
• 내부 구조적 무작위성과 강건성을 테스트하기 위해 FGSM 공격 모델을 주요 위협 시나리오로 사용하여 아키텍처를 평가한다.
• 방어는 추론 시점에 적용되며, 오토인코더가 주 네트워크에 들어가기 전에 입력을 처리한다.
• 블록 스위칭 구성 요소는 네트워크의 전방 전파에 무작위성을 도입하여 공격자가 기울기 예측을 어렵게 한다.

실험 결과

연구 질문

• RQ1 오토인코더는 분류 이전에 입력 이미지의 적대적 편향을 효과적으로 줄일 수 있는가?
• RQ2 잔차 네트워크에서의 동적 블록 스위칭은 화이트박스 적대적 공격에 대한 저항력을 높이는가?
• RQ3 오토인코딩과 블록 스위칭의 조합은 각각 단독으로 사용된 방어 기법보다 강건성 면에서 더 우수한가?
• RQ4 제안된 방법은 어떤 정도로 FGSM 공격 하에서 오분류율을 감소시키는가?

주요 결과

• 제안된 방어는 입력 재구성과 구조적 다양성 도입을 통해 FGSM 공격의 성공률을 크게 감소시킨다.
• 오토인코딩과 블록 스위칭의 통합은 각각 독립적으로 사용된 경우보다 더 강건한 모델을 만든다.
• 오토인코더는 미세하고 타겟된 편향을 효과적으로 제거하여 분류 이전에 입력의 정밀도를 복원한다.
• 블록 스위칭은 모델의 불확실성을 증가시켜 기울기 기반 공격의 효과를 떨어뜨리며, 예측 불가능한 기울기 흐름을 유도한다.