[논문 리뷰] Improving Robustness Without Sacrificing Accuracy with Patch Gaussian Augmentation

Raphael Gontijo Lopes, Dong Yin외 3명|arXiv (Cornell University)|2019. 06. 06.

Adversarial Robustness in Machine Learning참고 문헌 50인용 수 94

한 줄 요약

Patch Gaussian은 확률적 가우시안 노이즈를 임의의 이미지 패치에 추가하는 간단한 데이터 증강으로, Gaussian과 Cutout 사이를 보간하며 CIFAR-C와 ImageNet-C에서 최첨단 로버스트성을 달성하는 동시에 깨끗한 정확도를 유지하거나 향상시킵니다.

ABSTRACT

Deploying machine learning systems in the real world requires both high accuracy on clean data and robustness to naturally occurring corruptions. While architectural advances have led to improved accuracy, building robust models remains challenging. Prior work has argued that there is an inherent trade-off between robustness and accuracy, which is exemplified by standard data augment techniques such as Cutout, which improves clean accuracy but not robustness, and additive Gaussian noise, which improves robustness but hurts accuracy. To overcome this trade-off, we introduce Patch Gaussian, a simple augmentation scheme that adds noise to randomly selected patches in an input image. Models trained with Patch Gaussian achieve state of the art on the CIFAR-10 and ImageNetCommon Corruptions benchmarks while also improving accuracy on clean data. We find that this augmentation leads to reduced sensitivity to high frequency noise(similar to Gaussian) while retaining the ability to take advantage of relevant high frequency information in the image (similar to Cutout). Finally, we show that Patch Gaussian can be used in conjunction with other regularization methods and data augmentation policies such as AutoAugment, and improves performance on the COCO object detection benchmark.

연구 동기 및 목표

• 표준 증강에서의 로버스트성-정확도 트레이드오프를 동기화하고, Cutout과 Gaussian에 대해 이를 정량화한다.
• Patch Gaussian을 도입하여 Cutout과 Gaussian 사이를 보간하고 트레이드오프를 극복한다.
• Patch Gaussian이 CIFAR-C와 ImageNet-C에서 최첨단 로버스트성을 달성하고 다른 정규화 기법 및 정책과 호환됨을 보인다.
• Patch Gaussian이 객체 탐지(COCO)에서의 이점을 입증하고 주파수 영역 효과를 분석하여 동작을 이해한다.

제안 방법

• Patch Gaussian을 이미지에 W x W 패치의 가우시안 노이즈를 더하는 것으로 정의하며, 패치 크기 W와 최대 노이즈 σ_max를 제어 가능하게 한다.
• 패치 크기와 σ_max를 변화시켜 가우시안(전 이미지 노이즈)과 Cutout(패치 기반 정보 제거) 사이를 보간한다.
• 데이터셋/모델에 따라 최소 깨끗한 정확도 Z를 유지하면서 가우시안 노이즈에 대한 강건성을 최대화하도록 하이퍼파라미터를 선택한다.
• 표준 증강으로 CIFAR-10과 ImageNet에서 평가하고 Baseline, Cutout, Gaussian과 비교한다.
• 다른 정규화 기술(Dropblock, label smoothing) 및 AutoAugment 정책과의 상호 작용을 분석한다.
• 패치 가우시안이 초기 층의 저주파/고주파 정보에 어떤 영향을 미치는지 이해하기 위한 주파수 영역 분석을 수행한다.

실험 결과

연구 질문

• RQ1 Patch Gaussian이 Cutout과 Gaussian에서 관찰되는 전통적 로버스트성-정확도 트레이드오프를 극복할 수 있는가?
• RQ2 가장 좋은 깨끗한 정확도와 로버스트성의 균형을 제공하는 하이퍼파라미터 설정(패치 크기, σ_max)은 무엇인가?
• RQ3 실제 노이즈 벤치마크(CIFAR-C, ImageNet-C)에서 Patch Gaussian가 Gaussian만큼의 로버스트성 이상을 제공하는가?
• RQ4 Patch Gaussian가 다른 정규화 전략 및 증강 정책과 호환되고 객체 탐지 태스크로의 이전이 가능한가?

주요 결과

• Patch Gaussian은 CIFAR-10 및 ImageNet에서 깨끗한 정확도와 로버스트성을 동시에 개선하여 Cutout/Gaussian 트레이드오프를 극복한다.
• CIFAR-C와 ImageNet-C에서 Patch Gaussian은 최첨단 평균 오염도(mCE)를 달성하고 기준선에 비해 깨끗한 정확도를 향상한다.
• Patch Gaussian은 Dropblock 및 AutoAugment와 결합하여 로버스트성을 더욱 향상시킬 수 있으며, 일부 조합이 최상의 결과를 낳는다.
• 객체 탐지(COCO)에서 Patch Gaussian은 깨끗한 데이터에서의 평균 정확도(mAP)를 향상시키고 오염 하에서도 로버스트성을 유지한다.
• 주파수 분석은 Patch Gaussian이 초기 층에서 유용한 고주파 정보를 보존하는 동시에 후반 층의 고주파 민감도를 줄여 Cutout과 Gaussian의 강점을 결합한다.