[논문 리뷰] Formalizing Generalization and Robustness of Neural Networks to Weight Perturbations

Yu‐Lin Tsai, Chia-Yi Hsu외 2명|arXiv (Cornell University)|2021. 03. 03.

Adversarial Robustness in Machine Learning참고 문헌 28인용 수 6

한 줄 요약

이 논문은 노름 기반 무게 변동에 대한 전방 신경망의 일반화 및 내성에 대한 이론적 프레임워크를 제안하며, 분류 마진과 Rademacher 복잡도에 대한 경계를 도출한다. 이론 기반의 손실 함수를 제안하여 일반화와 적대적 내성 모두를 향상시키며, 강건한 모델에서 비어 있지 않은 일반화 경계를 경험적으로 검증한다.

ABSTRACT

Studying the sensitivity of weight perturbation in neural networks and its impacts on model performance, including generalization and robustness, is an active research topic due to its implications on a wide range of machine learning tasks such as model compression, generalization gap assessment, and adversarial attacks. In this paper, we provide the first integral study and analysis for feed-forward neural networks in terms of the robustness in pairwise class margin and its generalization behavior under weight perturbation. We further design a new theory-driven loss function for training generalizable and robust neural networks against weight perturbations. Empirical experiments are conducted to validate our theoretical analysis. Our results offer fundamental insights for characterizing the generalization and robustness of neural networks against weight perturbations.

연구 동기 및 목표

• 전방 신경망에서 무게 변동, 분류 마진 내성, 일반화 갭 간의 상호작용을 이론적으로 규명하는 것.
• 무게 변동에 강건한 모델을 훈련하기 위해 이론 분석에 기반한 새로운 손실 함수를 개발하는 것.
• 적대적 무게 공격 하에서 일반화와 내성에 대한 경험적 실험을 통해 이론적 통찰을 검증하는 것.
• 기본 훈련과는 달리, 제안된 손실로 훈련할 경우 일반화 경계가 여전히 비어 있지 않음을 보여주는 것.

제안 방법

• 스펙트럼 노름을 사용하여 단일층, 모든 층, 선택된 층의 무게 변동 하에서 쌍별 클래스 마진에 대한 최악의 경우 내성 경계를 유도한다.
• 무게 변동 하에서 Rademacher 복잡도를 통한 일반화 행동을 분석하며, 강건한 모델에 대해 비어 있지 않은 경계를 확립한다.
• 내성(최악의 마진을 통한)과 일반화(Rademacher 복잡도를 통한)를 동시에 최적화하는 이론 기반의 손실 함수를 제안한다.
• 무게에 대한 PGD 공격을 사용하여 모델을 경험적으로 평가하며, 다양한 변동 수준에서 내성과 일반화를 비교한다.
• 손실 함수의 내성 및 일반화 정규화 항의 기여도를 분리하기 위해 아블레이션 스터디를 수행한다.
• 무게 분포를 시각화하고 표준 모델과 강건한 모델 간의 일반화 경계를 비교하여 이론적 주장의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 무게 변동은 전방 신경망의 쌍별 분류 마진의 내성에 어떤 영향을 미치는가?
• RQ2 무게 변동 하에서 Rademacher 복잡도를 사용하여 비어 있지 않은 일반화 경계를 도출할 수 있는가?
• RQ3 훈련 중 적대적 무게 변동이 모델의 일반화와 내성에 어떤 영향을 미치는가?
• RQ4 제안된 이론 기반의 손실 함수는 실생활에서 단순한 적대적 무게 훈련과 비교해 어떤가?
• RQ5 내성 및 일반화 정규화 항의 포함 여부가 더 날카운 비어 있지 않은 일반화 경계를 이끌어내는가?

주요 결과

• 제안된 손실 함수는 훈련 데이터 크기가 증가함에 따라 비어 있지 않은 일반화 경계를 제공하며, 이는 표준 모델과는 달리 경계가 증가하고 공백이 되는 것과 대조된다.
• 제안된 손실로 훈련된 강건한 모델은 무게 PGD 공격 하에서 일반화 경계와 테스트 오차가 감소함을 보이며, 내성 향상이 확인된다.
• 아블레이션 스터디는 내성 항만 존재하더라도 무게가 정규화되고 비어 있지 않은 경계가 유도됨을 확인한다. 일반화 정규화가 명시적으로 포함되지 않더라도 마찬가지다.
• 작은 무게 변동(ε=0.001) 하에서 강건한 모델은 80.3%의 테스트 정확도를 기록하며, 단순한 적대적 무게 훈련(10% 정확도)을 크게 앞서간다.
• 강건한 모델의 무게 분포는 표준 모델보다 더 집중되어 있어 효과적인 무게 정규화가 이루어졌음을 시사한다.
• 모델과 데이터셋 크기에 관계없이 스펙트럼 노름 곱의 비율과 행렬 곱의 노름 비율이 거의 일정하게 유지되며, 일관된 스케일링 행동을 나타낸다.