[논문 리뷰] Increasing the robustness of DNNs against image corruptions by playing the Game of Noise

Evgenia Rusak, Lukas Schott외 5명|arXiv (Cornell University)|2020. 01. 16.

Adversarial Robustness in Machine Learning인용 수 38

한 줄 요약

이 논문은 이미지 손상에 대해 딥 네ural 네트워크의 강건성을 크게 향상시키는 노이즈 보완 학습 전략을 제안한다. 덧셈 가우시안 노이즈와 스펙클 노이즈를 사용한 학습에 더해, 적대적 노이즈 정규화를 적용함으로써, 아키텍처 변경 없이도 ImageNet-C 및 MNIST-C 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

The human visual system is remarkably robust against a wide range of naturally occurring variations and corruptions like rain or snow. In contrast, the performance of modern image recognition models strongly degrades when evaluated on previously unseen corruptions. Here, we demonstrate that a simple but properly tuned training with additive Gaussian and Speckle noise generalizes surprisingly well to unseen corruptions, easily reaching the previous state of the art on the corruption benchmark ImageNet-C (with ResNet50) and on MNIST-C. We build on top of these strong baseline results and show that an adversarial training of the recognition model against uncorrelated worst-case noise distributions leads to an additional increase in performance. This regularization can be combined with previously proposed defense methods for further improvement.

연구 동기 및 목표

• 비침습적 이미지 손상(비, 눈, 흐림 등)에 대한 딥 네럴 네트워크의 낮은 일반화 성능을 해결하기 위해.
• 학습 중 노이즈 증강이 강건성 향상에 효과적인 단순한 정규화 전략이 될 수 있는지 조사하기 위해.
• 최악의 노이즈 분포에 대해 적대적 학습을 수행할 경우, 기존의 노이즈 증강을 넘어서 강건성이 추가로 향상되는지 탐색하기 위해.
• 기존 방어 기법과의 호환성을 평가하여 추가적인 성능 향상을 얻을 수 있는지 검토하기 위해.

제안 방법

• 학습 중에 덧셈 가우시안 노이즈와 스펙클 노이즈를 적용하여, 미리 보지 못한 손상에 대한 일반화 능력을 향상시키기 위해 딥 네럴 네트워크를 훈련하는 방식.
• 모델의 손실를 최대화하는 상관없는 최악의 노이즈 분포를 최적화하여 적대적 학습을 수행하는 방식.
• 현재 모델에 대해 가장 나쁜 노이즈를 생성하기 위해 최소-최대(min-max) 공식을 사용하여, 적대적 정규화를 통해 강건성을 강화하는 방식.
• 노이즈 증강 학습과 적대적 학습 방식을 조합하여 강력한 기초 방어 전략을 구축하는 방식.
• 기존 방어 기법과 제안된 방법을 통합하여 상호보완적 향상 여부를 평가하는 방식.
• 다양한 손상 상황에서의 강건성을 측정하기 위해 표준 벤치마크인 ImageNet-C 및 MNIST-C에서 최종 모델을 평가하는 방식.

실험 결과

연구 질문

• RQ1 덧셈 가우시안 노이즈와 스펙클 노이즈를 사용한 학습이, 새로운 이미지 손상에 대해 DNN의 강건성을 크게 향상시킬 수 있는가?
• RQ2 최악의 노이즈 분포에 대해 적대적 학습을 수행할 경우, 기존의 노이즈 증강을 넘어서 강건성이 추가로 향상되는가?
• RQ3 제안된 방법은 표준 손상 벤치마크에서 이전의 최신 기술 수준 방어 기법과 비교해 어떻게 성능을 내는가?
• RQ4 제안된 노이즈 기반 정규화 기법은 기존 방어 기법과 효과적으로 조합되어 추가적인 성능 향상을 이끌 수 있는가?

주요 결과

• 제안된 노이즈 보완 학습 방식은 ResNet50 아키텍처를 사용할 경우 ImageNet-C 벤치마크에서 최신 기술 수준 성능을 달성한다.
• 이 방법은 MNIST-C 벤치마크에서도 최신 기술 수준 성능을 기록하여, 다양한 데이터셋에 걸쳐 강력한 일반화 능력을 보여준다.
• 최악의 노이즈 분포에 대해 적대적 학습을 수행할 경우, 기존의 노이즈 학습을 넘어서 추가로 측정 가능한 강건성 향상이 이루어진다.
• 노이즈 기반 정규화 기법은 기존 방어 기법과 호환되며 성능 향상을 이끌어내어 상호보완적 이점이 있음을 시사한다.
• 이 방법은 아키텍처 수정 없이 오직 데이터 수준의 정규화에 의존하여 이러한 성과를 달성한다.
• 이 방법은 이전에 보지 못한 손상 유형에 대해서도 강력한 일반화 능력을 보이며, 노이즈 주입을 통한 효과적인 불변성 학습이 이루어졌음을 시사한다.