[논문 리뷰] Label Noise in Adversarial Training: A Novel Perspective to Study Robust Overfitting

Chengyu Dong, Liyuan Liu외 1명|arXiv (Cornell University)|2021. 10. 07.

Machine Learning and Data Classification인용 수 6

한 줄 요약

이 논문은 적대적 훈련에서 레이블 노이즈가 강건한 과적합의 핵심 원인임을 규명하며, 노이즈가 정제된 데이터의 레이블을 그대로 이관받는 데서 기인하지만, 노이즈로 인한 의미적 이탈이 발생함에 따라 발생함을 밝혀낸다. 이를 바탕으로 확률적 분류기의 예측 레이블 분포를 활용해 자가 캘리브레이션 기법을 제안하여 레이블 노이즈를 감소시키며, 추가 하이퍼파rameter 없이 다양한 모델과 데이터셋에서 강건한 정확도를 향상시킨다.

ABSTRACT

We show that label noise exists in adversarial training. Such label noise is due to the mismatch between the true label distribution of adversarial examples and the label inherited from clean examples - the true label distribution is distorted by the adversarial perturbation, but is neglected by the common practice that inherits labels from clean examples. Recognizing label noise sheds insights on the prevalence of robust overfitting in adversarial training, and explains its intriguing dependence on perturbation radius and data quality. Also, our label noise perspective aligns well with our observations of the epoch-wise double descent in adversarial training. Guided by our analyses, we proposed a method to automatically calibrate the label to address the label noise and robust overfitting. Our method achieves consistent performance improvements across various models and datasets without introducing new hyper-parameters or additional tuning.

연구 동기 및 목표

• 적대적 훈련에서 강건한 과적합이 발생하는 근본 원인을 규명하는 것. 이는 널리 관찰되지만 아직 잘 이해되지 않은 현상이다.
• 노이즈가 정제된 예제와 적대적 예제 간의 레이블 분포 불일치로 인해 발생하며, 이는 노이즈에 의해 유도된 의미적 이탈로 인해 발생함을 규명하는 것.
• 퍼티urbation 반경과 데이터 품질이 레이블 노이즈를 통해 강건한 과적합에 미치는 영향을 분석함으로써 그 의존성을 설명하는 것.
• 적대적 예제의 레이블을 자동으로 캘리브레이션하여 레이블 노이즈를 감소시키고 강건한 과적합을 완화하는 방법을 제안하는 것.
• 새로운 하이퍼파rameter를 도입하지 않고도 다양한 모델, 데이터셋, 강건성 평가 지표에서 제안 방법의 효과를 검증하는 것.

제안 방법

• 적대적으로 훈련된 확률적 분류기의 예측 레이블 분포를 사용해 적대적 예제에 대해 더 나은 레이블을 제공하며, 높은 확률로 진짜 레이블 분포를 근사한다.
• 신뢰도 캘리브레이션 기법을 영감으로 삼아 온도 스케일링과 보간을 적용해 레이블 노이즈를 추가로 감소시킨다.
• 캘리브레이션 전략은 최적의 파라미터를 자동으로 결정하여 레이블 노이즈를 최소화하며 수동 튜닝이 필요 없도록 한다.
• 현대 일반화 이론에 기반하여, 적대적 훈련에서 관찰되는 에포크 단위 이중 내림표현과 일치한다.
• 지식 distillation 원리를 통합하지만, 노이즈 감소를 극대화하기 위해 스케일링 및 보간 파라미터 선택을 자동화한다.
• 모델 아키텍처를 수정하거나 새로운 하이퍼파rameter를 추가하지 않고도 적대적 훈련 중에 적용된다.

실험 결과

연구 질문

• RQ1 왜 강건한 과적합이 적대적 훈련에서 발생하며, 그 퍼지성의 근본적인 요인은 무엇인가?
• RQ2 퍼티urbation 반경이 강건한 과적합의 심각도에 미치는 영향은 무엇이며, 이는 레이블 노이즈로 설명될 수 있는가?
• RQ3 왜 데이터 품질이 강건한 과적합에서 핵심 요소이며, 레이블 노이즈는 이 의존성을 어떻게 매개하는가?
• RQ4 적대적 훈련에서 관찰되는 에포크 단위 이중 내림표현 현상은 레이블 노이즈로 기인할 수 있는가?
• RQ5 적대적 예제의 레이블을 자동으로 캘리브레이션하여 노이즈를 감소시키고 강건한 일반화를 향상시킬 수 있는가?

주요 결과

• 적대적 훈련에서의 레이블 노이즈는 페르튜베이션에 의해 유도된 의미적 왜곡으로 인해, 적대적 예제의 진짜 레이블 분포와 정제된 데이터로부터 유도된 레이블 간의 불일치에서 기인한다.
• 제안된 레이블 캘리브레이션 방법은 WRN-28-5와 같은 다양한 모델과 CIFAR-10과 같은 다양한 데이터셋에서 추가 하이퍼파rameter 없이도 일관되게 강건한 정확도를 향상시킨다.
• 레이블 노이즈로 인한 분산 증가를 완화함으로써 강건한 과적합을 감소시키며, 일반화의 편향-분산 트레이드오���과 일치한다.
• 에포크 단위 이중 내림표현이 적대적 훈련에서 관찰되며, 더 큰 모델에서는 1,000 에포크 이후에 다시 강건한 테스트 오차가 감소함을 확인했고, 이는 레이블 노이즈 유도 일반화 역학과 일치한다.
• 이 방법의 성능은 다양한 모델 크기에서 뛰어나다: 작은 모델은 오차 감소가 단조롭게 나타나며, 중간 크기 모델은 U자형 곡선을 보이고, 큰 모델은 이중 내림표현을 보이며, 이 모든 현상은 레이블 노이즈로 설명된다.
• 적대적으로 훈련된 모델의 예측 확률을 통한 데이터 품질 평가 결과, 높은 품질의 데이터는 레이블 노이즈 감소와 더 나은 강건성과 관련이 있음을 확인했다.