[논문 리뷰] Enhancing Generalization of Universal Adversarial Perturbation through Gradient Aggregation

Xuannan Liu, Yaoyao Zhong외 3명|arXiv (Cornell University)|2023. 08. 11.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 논문은 기울기 흐려짐을 완화하고 열악한 국소 최적점에서 벗어나기 위해 유니버설 적대적 편향(UAPs)의 일반화를 향상시키기 위한 새로운 방법인 확률적 기울기 집합(SGA)을 제안한다. SGA는 소형 배치 기울기를 사용해 내부 사전 탐색을 수행하고, 이를 안정적인 1단계 업데이트로 집계한다. 이로 인해 UAP의 이식성은 크게 향상되었으며, ImageNet에서 평균 95.95%의 속임수 비율을 달성하여 기존 최고 성능 기법을 능가한다.

ABSTRACT

Deep neural networks are vulnerable to universal adversarial perturbation (UAP), an instance-agnostic perturbation capable of fooling the target model for most samples. Compared to instance-specific adversarial examples, UAP is more challenging as it needs to generalize across various samples and models. In this paper, we examine the serious dilemma of UAP generation methods from a generalization perspective -- the gradient vanishing problem using small-batch stochastic gradient optimization and the local optima problem using large-batch optimization. To address these problems, we propose a simple and effective method called Stochastic Gradient Aggregation (SGA), which alleviates the gradient vanishing and escapes from poor local optima at the same time. Specifically, SGA employs the small-batch training to perform multiple iterations of inner pre-search. Then, all the inner gradients are aggregated as a one-step gradient estimation to enhance the gradient stability and reduce quantization errors. Extensive experiments on the standard ImageNet dataset demonstrate that our method significantly enhances the generalization ability of UAP and outperforms other state-of-the-art methods. The code is available at https://github.com/liuxuannan/Stochastic-Gradient-Aggregation.

연구 동기 및 목표

• 기존 유니버설 적대적 편향(UAP) 방법에서의 열악한 일반화의 근본 원인을 규명하는 것.
• 소형 배치 UAP 훈련에서 기울기 불안정성과 양자화 오차라는 이중 과제를 해결하는 것.
• 소형 배치 최적화(기울기 흐려짐)와 대형 배치 최적화(열악한 국소 최적점) 사이의 상충관계를 극복하는 것.
• 다양한 모델과 샘플 간 UAP의 이식성과 강건성 향상.
• 구조적 변경 없이도 간단하고 효과적이며 통합 가능한 방법 개발으로 UAP의 일반화 향상.

제안 방법

• SGA는 각 외부 단계에서 소형 배치 샘플을 사용해 다수의 내부 사전 탐색을 수행하는 외-외 반복 프레임워크를 사용한다.
• 내부 반복 과정에서 기울기는 양자화 없이 계산되고 누적되어 기울기 안정성을 유지한다.
• 모든 내부 기울기가 기존 기울기 양자화 이전에 하나의 낮은 분산 기울기 추정치로 집계된다.
• 집계된 기울기는 유니버설 편향을 업데이트하는 데 사용되며, 기울기 양자화 오차를 감소시키고 수렴 방향성을 향상시킨다.
• 이 방법은 일반화를 위해 소형 배치 스토하스틱 최적화를 활용하면서도 기울기 집합을 통해 업데이트를 안정화하고 날카로운 국소 최소점에서 벗어나게 한다.
• SGA는 기존 기울기 기반 UAP 방법과 호환되며, 모멘텀이나 모델 앙상블과 같은 이식성 향상 기법과 쉽게 통합할 수 있다.

실험 결과

연구 질문

• RQ1 현재 유니버설 적대적 편향 생성 방법에서 열악한 일반화의 주요 원인은 무엇인가?
• RQ2 기울기 불안정성과 양자화 오차는 소형 배치 UAP 훈련에서 기울기 흐려짐에 어떻게 기여하는가?
• RQ3 기울기 집합이 UAP 생성에서 최적화 안정성 향상과 기울기 양자화 오차 감소에 효과적으로 기여하는가?
• RQ4 SGA는 다양한 모델과 데이터셋 간 UAP의 이식성을 향상시키는가?
• RQ5 내부 배치 크기와 내부 반복 횟수와 같은 하이퍼파rameter는 SGA의 성능에 어떤 영향을 미치는가?

주요 결과

• SGA는 다섯 개인상 표준 ImageNet 모델에서 평균 95.95%의 속임수 비율을 달성하여 기존 최고 성능 기법을 능가한다.
• 앙상블 모델 환경에서 공격 성공률이 최대 77.11% 향상되어 강력한 이식성을 입증한다.
• 기울기 집합은 편향 집합보다 현저히 뛰어나며, 기울기 수준의 집합이 기울기 이탈 감소에 핵심임을 입증한다.
• 내부 배치 크기 10이 최적 성능을 내며, 기울기 추정의 안정성과 다양성 사이의 균형을 보여준다.
• 내부 반복 횟수 K=4(각 이미지당 평균 이동 횟수)가 공격 성공률를 최대화하여 기울기 공간 탐색의 최적화를 보여준다.
• SGA는 기울기 계산당 계산 비용을 증가시키지 않으면서도 일반화를 향상시켜 효율성을 유지하면서 강건성을 향상시킨다.