[논문 리뷰] Precise Statistical Analysis of Classification Accuracies for Adversarial Training

Adel Javanmard, Mahdi Soltanolkotabi|arXiv (Cornell University)|2020. 10. 21.

Advanced Statistical Methods and Models인용 수 4

한 줄 요약

이 논문은 비대칭 공분산을 가진 가우시안 혼합 모델 하에서, 최소최대 적대적 훈련을 통해 훈련된 이元 선형 분류기의 표준 및 강건한 분류 정확도에 대한 정밀한 이론적 특성화를 제공한다. 일반적인 ℓp-노름으로 제한된 편향에 대해 정확한 정확도 표현식을 유도하며, 적대자 강도, 데이터 크기, 모델 과도매개변수화에 대한 비단조화적이고 직관에 어긋나는 의존성을 드러낸다.

ABSTRACT

Despite the wide empirical success of modern machine learning algorithms and models in a multitude of applications, they are known to be highly susceptible to seemingly small indiscernible perturbations to the input data known as \emph{adversarial attacks}. A variety of recent adversarial training procedures have been proposed to remedy this issue. Despite the success of such procedures at increasing accuracy on adversarially perturbed inputs or \emph{robust accuracy}, these techniques often reduce accuracy on natural unperturbed inputs or \emph{standard accuracy}. Complicating matters further, the effect and trend of adversarial training procedures on standard and robust accuracy is rather counter intuitive and radically dependent on a variety of factors including the perceived form of the perturbation during training, size/quality of data, model overparameterization, etc. In this paper we focus on binary classification problems where the data is generated according to the mixture of two Gaussians with general anisotropic covariance matrices and derive a precise characterization of the standard and robust accuracy for a class of minimax adversarially trained models. We consider a general norm-based adversarial model, where the adversary can add perturbations of bounded $\ell_p$ norm to each input data, for an arbitrary $p\ge 1$. Our comprehensive analysis allows us to theoretically explain several intriguing empirical phenomena and provide a precise understanding of the role of different problem parameters on standard and robust accuracies.

연구 동기 및 목표

• 적대적으로 훈련된 모델에서 표준 정확도와 강건 정확도 사이의 비직관적인 상충관계를 이론적으로 이해하기 위해.
• 일반적인 ℓp-노름 적대적 편향 하에서의 양성 선형 분류의 표준 및 강건 정확도의 정밀한 행동을 특성화하기 위해.
• 비단조화적인 정확도 곡선과 데이터 크기에 따라 변하는 표준 정확도 성능의 반전과 같은 경험적 현상을 설명하기 위해.
• 모델 과도매개변수화, 훈련 데이터 크기, 편향 노름(ℓp)이 분류 성능에 미치는 영향을 분석하기 위해.

제안 방법

• 데이터를 일반적인 비대칭 공분산 행렬을 가진 두 개의 가우시안 혼합으로 모델링한다.
• 임의의 p ≥ 1 에 대해 일반적인 ℓp-노름으로 제한된 편향을 가진 최소최대 적대적 훈련을 분석한다.
• 이중성과 가중치가 부여된 모레우 엔velop 기법을 사용하여 표준 및 강건 정확도에 대한 정확한 닫힌 형태의 표현식을 도출한다.
• 특이값 분해와 최적화 이중성 기법을 활용하여 적대적 편향에 대한 최소최대 문제를 해결한다.
• 적대적 강건성을 모델링하기 위해 ℓq-노름 정규화를 가진 일반화된 손실 함수를 사용한다.
• 약한 미분 가능성과 볼록성 가정 하에서 경사하강법의 수렴이 최대 마진 해에 도달함을 증명한다.

실험 결과

연구 질문

• RQ1 적대적으로 훈련된 선형 분류기의 표준 정확도는 적대자의 인식하는 편향 강도(ℓp 노름)에 따라 어떻게 변하는가?
• RQ2 훈련 데이터 크기(모델 파라미터 대비)와 그로 인한 표준 및 강건 정확도 사이의 정밀한 관계는 무엇인가?
• RQ3 왜 적대적 훈련은 일반적인 추세와는 다르게 낮은 데이터 환경에서 표준 정확도를 향상시킬 수 있는가?
• RQ4 다양한 ℓp-노름 편향(예: ℓ₁, ℓ₂, ℓ∞)은 표준 정확도와 강건 정확도 사이의 상충관계에 어떻게 영향을 미치는가?
• RQ5 정확도 곡선의 비단조화적 행동은 이론적으로 설명되고 예측될 수 있는가?

주요 결과

• 표준 정확도는 적대자 강도에 대해 비단조화적인 의존성을 보이며, 처음 감소하다가 다시 증가하고 다시 감소하는 형태를 띠며, 정확한 형태는 데이터 대비 파라미터 비율 δ에 따라 달라진다.
• 강건 정확도는 적대자 강도 증가와 함께 처음에는 감소하지만, δ에 따라 달라지는 임계값을 넘어서면 점차 증가하거나 안정화된다.
• 매우 낮은 데이터 환경(작은 δ)에서는 적대적으로 훈련된 모델이 비적대적 모델보다 표준 정확도에서 뛰어나지 않아, 일반적인 강건성-정확도 상충관계가 뒤집힐 수 있다.
• ℓ∞-노름 편향을 가진 수치 실험을 통해 검증된 결과, 표준 및 강건 정확도의 이론적 예측값은 경험적 결과와 매우 밀접하게 일치한다.
• 정확도에 대한 유도된 표현식은 정확하며, 데이터 평균의 ℓp-노름과 공분산 행렬의 구조에 명시적으로 의존한다.
• 분석 결과, ℓp-편향 유형, 모델 과도매개변수화, 데이터 크기 간의 상호작용이 근본적으로 다른 성능 추세를 이끌어낸다는 것이 드러났다.