[논문 리뷰] On the Generalization Properties of Adversarial Training

Yue Xing, Qifan Song외 1명|arXiv (Cornell University)|2020. 08. 15.

Adversarial Robustness in Machine Learning참고 문헌 38인용 수 10

한 줄 요약

이 논문은 선형 회귀와 제곱 손실을 가진 두 층 신경망에서 적대적 훈련의 일반화 성질을 조사하며, 저차원에서는 비연속성에도 불구하고 적대적 리스크가 최소값으로 수렴하는 반면, 고차원에서는 데이터 보간이 일致성의 파손을 초래함을 보여주며, 이를 해결하기 위해 L1 정규화를 도입하여 일致한 적대적 로버스트 추정이 가능해짐을 보임. 이는 수치적 연구로도 검증됨.

ABSTRACT

Modern machine learning and deep learning models are shown to be vulnerable when testing data are slightly perturbed. Existing theoretical studies of adversarial training algorithms mostly focus on either adversarial training losses or local convergence properties. In contrast, this paper studies the generalization performance of a generic adversarial training algorithm. Specifically, we consider linear regression models and two-layer neural networks (with lazy training) using squared loss under low-dimensional and high-dimensional regimes. In the former regime, after overcoming the non-smoothness of adversarial training, the adversarial risk of the trained models can converge to the minimal adversarial risk. In the latter regime, we discover that data interpolation prevents the adversarially robust estimator from being consistent. Therefore, inspired by successes of the least absolute shrinkage and selection operator (LASSO), we incorporate the L1 penalty in the high dimensional adversarial learning and show that it leads to consistent adversarially robust estimation. A series of numerical studies are conducted to demonstrate how the smoothness and L1 penalization help improve the adversarial robustness of DNN models.

연구 동기 및 목표

• 최적화 수렴 이후의 일반화 성능을 분석함으로써 통계적 일치성에 중점을 두어 적대적 훈련의 성능을 분석하는 것.
• 데이터 보간으로 인해 고차원 설정에서 적대적 로버스트 추정기가 실패하는 이유를 다루는 것.
• 고차원 적대적 학습에서 일致한 추정을 달성하기 위해 L1 정규화를 도입하고 그 타당성을 제안 및 정당화하는 것.
• 저차원 영역에서 적대적 리스크가 최소값으로 수렴하는 것을 이론적으로 보장하는 것.

제안 방법

• 적대적 샘플 생성과 모델 파라미터 업데이트를 위한 반복적 갱신을 포함하는 min-max 최적화 프레임워크를 통해 적대적 훈련을 분석함.
• 손실 표면의 비미분성 문제를 다루기 위해 비연속적 적대적 공격의 스무딩 근사법을 사용함.
• 표본 수와 특징 차원의 변화에 따른 적대적 리스크의 행동을 분석하기 위해 농도 불등식과 고차원 점근적 분석을 적용함.
• 고차원 설정에서의 일치성을 향상시키기 위해 L1 펜alties를 적대적 훈련 목표 함수에 통합함.
• 추정 오차의 경계를 유도하기 위해 하위가우시안 농도와 제한된 강력한 볼록성 같은 이론적 도구를 활용함.
• 딥 신경망에서의 수치 실험을 통해 결과를 검증함으로써, 부드러움과 L1 정규화가 함께 작용할 경우 로버스트성이 향상됨을 보임.

실험 결과

연구 질문

• RQ1 저차원 설정에서, 손실 함수의 비연속성에도 불구하고 적대적 훈련이 최소 적대적 리스크로 수렴할 수 있는가?
• RQ2 고차원 설정에서 데이터 보간이 왜 적대적 로버스트 모델의 일치성 추정을 방해하는가?
• RQ3 L1 정규화가 고차원 적대적 학습에서 일치성을 복원할 수 있으며, 만약 가능하면 어떤 조건에서 그러한 복원이 이루어지는가?
• RQ4 부드러움과 희소성의 상호작용이 적대적으로 훈련된 모델의 일반화 성능에 어떤 영향을 미치는가?
• RQ5 저차원 및 고차원 영역 모두에서 적대적 추정기의 수렴성과 일치성에 대해 어떤 이론적 보장을 설정할 수 있는가?

주요 결과

• 저차원 영역에서는 비연속 손실 함수가 존재하더라도 스무딩 기법을 통해 비연속성을 극복한 후, 적대적 리스크가 최소 가능한 값으로 수렴함.
• 고차원 영역에서는 데이터 보간이 적대적 로버스트 추정기의 일치성을 해칠 수 있으며, 이로 인해 표준 적대적 훈련이 부족함.
• 적대적 훈련 목표 함수에 L1 정규화를 통합함으로써 고차원 설정에서 일치성이 복원됨.
• 이론적 분석 결과, 희소성과 제한된 고유값 조건 하에서 L1-정규화된 적대적 추정기는 높은 확률로 일치한 추정을 달성함.
• 수치적 연구 결과, 부드러움과 L1 펜alties 모두가 딥 신경망에서 적대적 로버스트성을 크게 향상시킴.