[논문 리뷰] Towards Understanding the Dynamics of the First-Order Adversaries

Zhun Deng, Hangfeng He외 2명|arXiv (Cornell University)|2020. 10. 20.

Advanced Malware Detection Techniques인용 수 4

한 줄 요약

이 논문은 이중층 ReLU 네트워크에서 제곱 손실을 가진 1차 순서 적대적 공격에 대해 투영된 경사상승법(PGA)의 최초 수렴 분석을 제공한다. PGA가 높은 확률로 다항 시간 내에 국소 최대값으로 수렴함을 증명하였으며, 더 작은 입력 스케일일수록 수렴 속도가 빠르고 손실 곡면이 더 규칙적임을 보여주었으며, 시뮬레이션 및 실세계 데이터를 통한 실험으로 검증하였다.

ABSTRACT

An acknowledged weakness of neural networks is their vulnerability to adversarial perturbations to the inputs. To improve the robustness of these models, one of the most popular defense mechanisms is to alternatively maximize the loss over the constrained perturbations (or called adversaries) on the inputs using projected gradient ascent and minimize over weights. In this paper, we analyze the dynamics of the maximization step towards understanding the experimentally observed effectiveness of this defense mechanism. Specifically, we investigate the non-concave landscape of the adversaries for a two-layer neural network with a quadratic loss. Our main result proves that projected gradient ascent finds a local maximum of this non-concave problem in a polynomial number of iterations with high probability. To our knowledge, this is the first work that provides a convergence analysis of the first-order adversaries. Moreover, our analysis demonstrates that, in the initial phase of adversarial training, the scale of the inputs matters in the sense that a smaller input scale leads to faster convergence of adversarial training and a "more regular" landscape. Finally, we show that these theoretical findings are in excellent agreement with a series of experiments.

연구 동기 및 목표

• 적대적 훈련의 내부 최대화 단계에서 투영된 경사상승법(PGA)의 동역학을 이해하기 위해.
• 입력 스케일이 적대적 훈련의 수렴 속도와 곡면 규칙성에 영향을 미치는지 조사하기 위해.
• 1차 순서 적대적 훈련의 경험적 효과성에 대한 이론적 기반을 제공하기 위해.
• 제곱 손실을 가진 이중층 ReLU 네트워크에서 적대적 편향의 비볼록 곡면을 분석하기 위해.
• 적대적 강건성 훈련 맥락에서 PGA의 엄밀한 수렴 보장을 수립하기 위해.

제안 방법

• 제곱 손실을 가진 이중층 ReLU 신경망에서 적대적 편향의 비볼록 곡면을 분석한다.
• 적대적 훈련의 내부 최대화 문제 해결에 대해 투영된 경사상승법(PGA)을 사용한다.
• 수렴 정리를 활용하여 PGA가 다항 시간 내에 높은 확률로 근사 국소 최대값을 찾는다는 것을 증명한다.
• 편향 구면상의 국소 최소값과 최대값을 분석하기 위해 기울기 간의 각도와 헤시안 근사 기반 기하학적 추론을 도입한다.
• 다양한 입력 스케일과 은닉층 너비를 가진 시뮬레이션 데이터를 대상으로 이론적 결과를 검증하기 위해 실험을 수행한다.
• MNIST에서 PGD를 사용하여 무작위 편향에서 국소 최대값으로의 수렴 경로를 추적한다.

실험 결과

연구 질문

• RQ1 투영된 경사상승법(PGA)은 적대적 최적화 문제에서 빠르게 국소 최대값으로 수렴하는가?
• RQ2 입력 스케일은 적대적 훈련의 수렴 속도와 곡면 규칙성에 어떤 영향을 미치는가?
• RQ3 PGA가 안정점에 갇히지 않고 국소 최대값을 찾는다는 이론적 보장이 있는가?
• RQ4 은닉층의 너비는 적대적 손실 곡면에 어떤 영향을 미치는가?
• RQ5 입력 스케일과 곡면 규칙성에 대한 이론적 통찰은 경험적 관찰과 일치하는가?

주요 결과

• 투영된 경사상승법은 다항 시간 내에 높은 확률로 국소 최대값으로 수렴함을 보이며, 이는 1차 순서 적대적 공격에 대한 최초의 수렴 보장을 제공한다.
• 더 작은 입력 스케일일수록 적대적 훈련의 수렴 속도가 빨라지고, 손실 곡면이 더 규칙적이다.
• 네트워크의 너비가 증가할수록 특히 입력 스케일이 작을 경우 적대적 손실 곡면이 더 규칙적해진다.
• 이론적 분석에 따르면, 작은 편향 반경에서는 기울기 방향이 잘 분리되어 있어 효율적인 수렴이 가능하다.
• MNIST 및 시뮬레이션 데이터에 대한 경험적 결과는 더 작은 입력 스케일일수록 더 빠른 수렴과 국소 최대값으로 향하는 더 매끄러운 경로를 보여준다.
• 이론적 및 실험적 결과가 강하게 일치하여, 입력 스케일이 최적화 역학을 형성하는 데서의 역할을 검증한다.