[논문 리뷰] Adversarial Training Can Hurt Generalization

Aditi Raghunathan, Sang Michael Xie외 3명|arXiv (Cornell University)|2019. 06. 14.

Adversarial Robustness in Machine Learning참고 문헌 21인용 수 144

한 줄 요약

이 논문은 적대적 학습이 표준 일반화에 해를 끼칠 수 있음을 보여주는데, 최적 예측기가 표준 및 강건 정확도 모두에 대해 좋더라도 볼록한 구성으로 가능하며, unlabeled 데이터를 활용한 강건 자가 학습이 이 트레이드오프를 크게 완화함을 보여준다.

ABSTRACT

While adversarial training can improve robust accuracy (against an adversary), it sometimes hurts standard accuracy (when there is no adversary). Previous work has studied this tradeoff between standard and robust accuracy, but only in the setting where no predictor performs well on both objectives in the infinite data limit. In this paper, we show that even when the optimal predictor with infinite data performs well on both objectives, a tradeoff can still manifest itself with finite data. Furthermore, since our construction is based on a convex learning problem, we rule out optimization concerns, thus laying bare a fundamental tension between robustness and generalization. Finally, we show that robust self-training mostly eliminates this tradeoff by leveraging unlabeled data.

연구 동기 및 목표

• 볼록 환경에서 적대적 학습하에서 표준 정확도와 강건 정확도 간의 유한 데이터 트레이드오프를 보여준다.
• 최적화를 통계로부터 분리하여 강건성과 일반화 사이의 근본적인 긴장을 보인다.
• 라벨이 없는 데이터로 수행하는 강건 자가 학습이 유한 데이터에서 관찰된 트레이드오프를 제거할 수 있음을 보인다.

제안 방법

• 강건하고 정확한 계단식 최적 예측기를 갖는 볼록 학습 문제를 구성한다.
• 불변성 집합 B(x)를 정의하고 제곱 손실을 사용해 표준 목표와 강건성 중심 목표를 분석한다.
• 목표 불변성(무한 데이터) 하에서 표준 및 강건 추정기의 일관성을 증명한다.
• 작은 샘플에서 강건한 학습이 표준 학습보다 더 높은 테스트 오차를 유발한다는 것을 유한 샘플 구성으로 보인다.
• CIFAR-10의 하위 샘플링을 통해 더 많은 데이터로 증가하는 정확도 차이가 어떻게 축소되는지 관찰한다, 구 성과 일치.
• 무라벨 데이터에 대한 강건 자가 학습이 트레이드오프를 완화하는 것을 보여준다.

실험 결과

연구 질문

• RQ1 베이즈 예측기가 강건하고 정확하더라도 적대적 학습이 표준 일반화에 해를 끼칠 수 있는가?
• RQ2 유한 샘플 구간이 최적화 문제와 무관하게 표준 및 강건 목표 간의 트레이드오프를 나타내는가?
• RQ3 강건 자가 학습을 통한 무라벨 데이터가 표준-강건 성능 격차를 근접시키거나 제거할 수 있는가?
• RQ4 작은 데이터 상황에서 강건성이 규제화로 작용하는 조건은 무엇이며, 과적합의 원천으로 작용하는 조건은 무엇인가?

주요 결과

• 볼록 구성은 최적 예측기가 두 목표에 모두 좋더라도 유한 샘플에서 적대적 학습이 표준 일반화를 악화시킬 수 있음을 보여준다.
• 강건 테스트 오차와 표준 테스트 오차의 차이가 학습 샘플 크기가 커질수록 감소하며, 더 많은 데이터가 트레이드오프를 완화함을 시사한다.
• 추가 무라벨 데이터를 활용한 강건 자가 학습이 트레이드오프를 크게 제거하여, 강건성을 유지하면서 표준 학습과 견줄 만한 성능을 달성한다.
• CIFAR-10 및 MNIST 유사 설정에서 관찰된 트레이드오프는 계단식 구성과 일치하며, 더 큰 데이터나 무라벨 데이터가 이를 감소시키거나 제거한다.
• 강건성의 효과는 강건 예측기의 복잡도에 따라 다르며, 강건 예측기가 단순할 때(예: 경사 m=0) 적대적 학습이 표준 일반화를 개선할 수 있다.