[논문 리뷰] NoisyMix: Boosting Model Robustness to Common Corruptions

N. Benjamin Erichson, Soon Hoe Lim외 4명|arXiv (Cornell University)|2022. 02. 02.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

NoisyMix는 입력 공간과 특징 공간에 제어된 노이즈를 주입함으로써 일반적인 데이터 손상과 도메인 이동에 대한 딥 네ural 네트워크의 강건성을 향상시키는 새로운 데이터 증강 훈련 방식이다. ImageNet-C, ImageNet-R, CIFAR-10-C에서 최신 기준 성능을 달성하며, AugMix보다 강건성 정확도를 4% 이상 향상시키면서도 동등한 내부 도메인 정확도와 훈련 비용을 유지한다.

ABSTRACT

For many real-world applications, obtaining stable and robust statistical performance is more important than simply achieving state-of-the-art predictive test accuracy, and thus robustness of neural networks is an increasingly important topic. Relatedly, data augmentation schemes have been shown to improve robustness with respect to input perturbations and domain shifts. Motivated by this, we introduce NoisyMix, a novel training scheme that promotes stability as well as leverages noisy augmentations in input and feature space to improve both model robustness and in-domain accuracy. NoisyMix produces models that are consistently more robust and that provide well-calibrated estimates of class membership probabilities. We demonstrate the benefits of NoisyMix on a range of benchmark datasets, including ImageNet-C, ImageNet-R, and ImageNet-P. Moreover, we provide theory to understand implicit regularization and robustness of NoisyMix.

연구 동기 및 목표

• 실세계 응용에서 일반적인 데이터 손상과 도메인 이동에 대한 딥 네ural 네트워크의 강건성을 향상시키기.
• 계산 효율성을 희생시키지 않고 강건성과 내부 도메인 정확도를 모두 향상시키는 훈련 체계 개발하기.
• 제안된 방법의 암묵적 정규화 효과에 대한 이론적 근거 제공하기.
• NoisyMix가 입력 편향에 대해 모델의 校정성과 안정성을 향상시키는지 확인하기.
• NoisyMix가 벤치마크 오염 및 도메인 이동 데이터셋에서 적대적 훈련과 기존 데이터 증강 방법보다 뛰어나게 성능을 발휘하는지 보여주기.

제안 방법

• NoisyMix는 입력 및 특징 공간에 제어된 노이즈를 주입하는 혼합 데이터 증강 전략을 도입하며, mixup 방식의 선형 보간과 결합한다.
• 스토캐스틱 보간 방식을 사용하며, $ M_{\lambda}(a,b) = \lambda a + (1-\lambda)b $ 로 정의되며, 여기서 $ \lambda \sim \text{Beta}(\alpha, \alpha) $ 이다. 이 방식은 입력 이미지와 중간 특징 맵에 모두 노이즈를 적용한다.
• 훈련 중에 추가적인 가우시안 또는 균일 분포 노이즈를 적용하며, 온도 유사 하이퍼파rameter를 통해 강도를 조절한다.
• 이론적 분석을 통해 암묵적 정규화를 활용하며, 적대적 손실의 상한선, 안정성 목표, 데이터 의존 정규화 항을 최소화하는 방식으로 구현된다.
• 훈련 과정에서 표준 mixup 및 AugMix와 유사한 계산 비용을 유지하여 효율적인 구현이 가능하다.
• 프레임워크는 ResNet-50, ResNet-18, Wide-ResNet-28x2 아키텍처를 사용하여 ImageNet-C, ImageNet-R, CIFAR-10-C에서 평가되었다.

실험 결과

연구 질문

• RQ1 mixup와 제어된 노이즈 주입을 조합한 데이터 증강 체계가 일반적인 오염과 도메인 이동에 대한 강건성을 향상시킬 수 있는가?
• RQ2 NoisyMix는 적대적 훈련 및 AugMix와 같은 최신 기준 증강 방법과 비교해 강건성과 내부 도메인 정확도 측면에서 어떻게 성능을 내는가?
• RQ3 NoisyMix에서 관찰된 강건성 향상의 이론적 근거는 무엇인가? 특히 암묵적 정규화 측면에서 설명할 수 있는가?
• RQ4 NoisyMix는 다양한 오염 유형에서 더 나은 캘리브레이션된 불확실성 추정과 낮은 편향 전환 비율을 제공하는가?
• RQ5 NoisyMix는 ImageNet 및 CIFAR와 같은 다양한 아키텍처와 데이터셋에 일반화 가능한가?

주요 결과

• NoisyMix는 AugMix 대비 ImageNet-C에서 강건성 정확도를 4% 이상 향상시켜 모든 평가된 방법 중 최고 성능을 기록했다.
• ImageNet-R에서 NoisyMix는 모든 오염 유형에서 평균 전환 비율이 28.5로 가장 낮았으며, AugMix(37.6) 및 기준 모델보다 뚜렷이 뛰어났다.
• CIFAR-10-P에서 NoisyMix는 ResNet-18 기준 평균 전환 비율을 1.9로 줄였고, Wide-ResNet-28x2 기준 1.7로 유지하여 AugMix 대비 각각 약 1%와 5%의 안정성 향상을 달성했다.
• 청정 ImageNet 검증 세트에서 내부 도메인 정확도는 동등하게 유지되어 강건성 향상과 표준 정확도 간의 상충관계가 없음을 확인했다.
• 이론적 분석 결과, NoisyMix 손실 최소화는 적대적 손실의 상한선, 안정성 목표, 데이터 의존 정규화 항의 최소화와 일치함을 보여주며, 강건성에 대한 이론적 근거를 제공한다.
• 적대적 훈련의 저주파 오염에 대한 한계가 알려져 있음에도 불구하고, NoisyMix는 ImageNet-C에서 적대적 훈련을 초월하여 성능을 냈으며, 이는 강건성의 다면적 성질을 반영한다.