[논문 리뷰] Adversarial Training Makes Weight Loss Landscape Sharper in Logistic Regression

Masanori Yamada, Sekitoshi Kanai외 5명|arXiv (Cornell University)|2021. 02. 05.

Adversarial Robustness in Machine Learning참고 문헌 29인용 수 4

한 줄 요약

이 논문은 이론적으로 및 실험적으로 $L_2$-제약이 있는 교란을 통한 적대적 훈련이 로지스틱 회귀에서 가중치 손실 표면을 날카롭게 한다는 것을 보여주며, 주로 손실을 증가시키는 방향으로 정렬된 노이즈 때문입니다. 적대적 노이즈의 크기가 클수록 날카기 정도가 증가하고, 이 효과는 랜덤 노이즈보다 더 두드러지며, 이는 강건한 모델에서 일반화 성능 저하를 설명합니다.

ABSTRACT

Adversarial training is actively studied for learning robust models against adversarial examples. A recent study finds that adversarially trained models degenerate generalization performance on adversarial examples when their weight loss landscape, which is loss changes with respect to weights, is sharp. Unfortunately, it has been experimentally shown that adversarial training sharpens the weight loss landscape, but this phenomenon has not been theoretically clarified. Therefore, we theoretically analyze this phenomenon in this paper. As a first step, this paper proves that adversarial training with the L2 norm constraints sharpens the weight loss landscape in the linear logistic regression model. Our analysis reveals that the sharpness of the weight loss landscape is caused by the noise aligned in the direction of increasing the loss, which is used in adversarial training. We theoretically and experimentally confirm that the weight loss landscape becomes sharper as the magnitude of the noise of adversarial training increases in the linear logistic regression model. Moreover, we experimentally confirm the same phenomena in ResNet18 with softmax as a more general case.

연구 동기 및 목표

• 적대적 훈련이 로지스틱 회귀에서 가중치 손실 표면을 날카롭게 하는 이유를 이론적으로 명확히 하는 것.
• 적대적 노이즈의 방향과 크기가 손실 표면의 날카기 정도에 미치는 영향을 분석하는 것.
• 손실 표면 곡률에서 적대적 노이즈와 랜덤 노이즈의 영향을 비교하는 것.
• 리소넷18과 소프트맥스를 사용한 비선형 모델으로 연구 결과를 확장하는 것.
• 손실 표면의 날카기 정도를 통해 적대적 훈련된 모델의 일반화 갭을 설명하는 것.

제안 방법

• 선형 로지스틱 회귀에서 손실 표면의 날카기 정도를 정의하기 위해 헤시안 고유값을 사용한 이론적 분석.
• 분석을 위해 적대적 예제를 크기와 방향 성분으로 분해.
• $L_2$-노름 제약이 있는 적대적 훈련 하에서 손실 함수의 헤시안을 유도.
• 곡률에 대한 적대적 노이즈의 영향을 분리하기 위해 최적의 가중치 조건을 적용.
• MNIST2에서 다양한 노이즈 크기를 사용한 실험을 통해 이론적 결과를 검증.
• 적대적 노이즈와 랜덤 노이즈 하에서의 손실 표면 날카기 정도를 비교하는 실험 수행.

실험 결과

연구 질문

• RQ1 적대적 훈련이 $L_2$-노름 제약을 가진 로지스틱 회귀에서 가중치 손실 표면의 날카기 정도를 체계적으로 증가시키는가?
• RQ2 적대적 노이즈의 크기가 손실 표면 곡률에 어떤 영향을 미치는가?
• RQ3 적대적 노이즈로 인한 날카기 증가는 랜덤 노이즈로 인한 것과 구별되는가?
• RQ4 리소넷18과 소프트맥스를 사용한 비선형 모델에서도 동일한 현상이 나타나는가?
• RQ5 적대적 훈련된 모델의 일반화 갭은 증가한 손실 표면 날카기 정도 때문인가?

주요 결과

• 이론적 분석을 통해 $L_2$-제약이 있는 로지스틱 회귀에서 손실 표면의 헤시안 고유값이 적대적 노이즈의 노름에 비례하여 선형적으로 증가함을 증명하였다.
• 날카기 증가는 랜덤 변형이 아닌, 손실을 최대화하도록 정렬된 적대적 노이즈로 인한 것이다.
• MNIST2에서의 실험을 통해 더 큰 적대적 노이즈가 상당히 날카로운 손실 표면을 유도하는 것으로 확인되었다.
• 소프트맥스를 사용한 리소넷18에서도 적대적 노이즈의 크기를 늘릴수록 점점 더 날카로운 손실 표면이 나타났다.
• 적대적 노이즈는 랜덤 노이즈보다 손실 표면을 훨씬 더 날카롭게 하며, 랜덤 노이즈의 곡률 증가는 거의 없었다.
• 이 연구는 손실 표면의 날카기 정도가 적대적 훈련된 모델의 일반화 갭의 핵심 요인임을 결론지었다.