[논문 리뷰] Unadversarial Examples: Designing Objects for Robust Vision

Hadi Salman, Andrew Ilyas외 4명|arXiv (Cornell University)|2020. 12. 22.

Adversarial Robustness in Machine Learning참고 문헌 62인용 수 24

한 줄 요약

이 논문은 분포 이탈 상황에서 딥러닝 모델의 성능과 내성 강도를 향상시키기 위해 기울기 기반 방법으로 명시적으로 최적화된 '비적대적 예제'를 소개한다. 입력 설계의 통제를 활용함으로써, 이 프레임워크는 ImageNet 및 CIFAR 벤치마크에서 분류기의 정확도를 높이고 오염에 대한 저항성을 강화한다. 이는 기준선으로 사용된 QR 코드와 무작위/최적의 훈련 이미지보다 우월하다.

ABSTRACT

We study a class of realistic computer vision settings wherein one can influence the design of the objects being recognized. We develop a framework that leverages this capability to significantly improve vision models' performance and robustness. This framework exploits the sensitivity of modern machine learning algorithms to input perturbations in order to design "robust objects," i.e., objects that are explicitly optimized to be confidently detected or classified. We demonstrate the efficacy of the framework on a wide variety of vision-based tasks ranging from standard benchmarks, to (in-simulation) robotics, to real-world experiments. Our code can be found at https://git.io/unadversarial .

연구 동기 및 목표

• 실세계 시각 응용 프로그램에서 예측할 수 없는 분포 이탈 상황에서의 모델 내성 강도 문제를 지속적으로 해결한다.
• 많은 실용적 환경에서 시스템 설계자가 모델과 입력 객체의 물리적 설계를 모두 제어할 수 있음을 인지한다.
• 입력 설계 통제를 활용해 모델 성능과 내성 강도를 향상시키는 프레임워크를 개발하며, 적대적 패러다임을 뒤집는다.
• 모델의 자신감을 향상시키기 위해 객체를 최적화하는 것—적대적으로 대응하는 것이 아니라—이러한 방식이 정확도와 내성 강도 향상에 상당한 기여를 할 수 있음을 입증한다.
• 표준 벤치마크, 시뮬레이션 로봇 기반 시스템, 실제 물리적 환경 배치에서 메서드를 검증한다.

제안 방법

• 기울기 기반 최적화를 사용해 목표 클래스에 대해 모델의 자신감을 극대화하는 패치 또는 3D 객체 텍스처를 설계한다.
• 분류기의 역전파를 통해 목표 클래스의 교차 엔트로피 손실을 최소화함으로써 비적대적 패치를 훈련한다.
• 회전, 스케일링, 이동 등의 무작위 변환을 적용하여 실제 세계의 변동성을 시뮬레이션한다.
• 다양한 오염 유형과 심각도에서 ImageNet-C 및 CIFAR-C 오염 데이터셋에서 내성 강도를 평가한다.
• 이를 3D 객체 텍스처로 확장하고 시뮬레이션된 드론 착륙 작업에 도입하여 실제 세계로의 전이를 검증한다.
• 강력한 기준선과 성능을 비교한다: QR 코드, 최고/평균 훈련 이미지, 고정 패턴 패치.

실험 결과

연구 질문

• RQ1 적대적으로 대응하기보다는 모델 자신감을 향상시키기 위해 최적화된 입력을 설계함으로써, 시각 모델의 내성 강도를 향상시킬 수 있는가?
• RQ2 기존 기준선과 비교했을 때, 비적대적 패치는 표준 및 오염된 벤치마크에서 성능을 얼마나 향상시킬 수 있는가?
• RQ3 비적대적 예제에서 얻는 성능 향상은 시뮬레이션에서 실제 물리적 환경 배치로 전이되는가?
• RQ4 이 방법은 2D 패치, 3D 텍스처와 같은 다양한 객체 유형과 분류, 로봇 기반 작업 등 다양한 시각 작업에서 어떻게 스케일링되는가?
• RQ5 비적대적 설계를 통해 예측할 수 없는 분포 이탈에 대한 내성 강도를 향상시키면서도 광범위한 재훈련에 의존하는 것을 줄일 수 있는가?

주요 결과

• 비적대적 패치는 모든 오염 유형과 심도에서 ImageNet-C 및 CIFAR-10-C에서 뚜렷한 내성 정확도 향상을 보이며, 사전 훈련된 모델과 모든 기준선을 능가한다.
• 높은 심각도의 오염 조건에서도 일관된 성능 향상이 이루어지며, 일부 ImageNet-C 오염 조건에서는 내성 정확도가 최대 20~30%p 향상된다.
• QR 코드와 최고 훈련 이미지 패치는 비교적 열등한 성능을 보이며, QR 코드는 중간 수준의 오염 조건에서 일반화 실패를 보이고, 최고 이미지 패치는 오직 약간의 성능 향상만을 기록한다.
• 무작위 훈련 이미지를 패치로 사용할 경우 최고 이미지 패치보다 훨씬 열악한 성능을 보이며, 최적화의 중요성을 확인한다.
• 사전 정의된 고정 패턴 패치(예: 무작위 가우시안 노이즈)는 더 약한 모델을 초래함으로써, 학습된 패치 설계의 중요성을 입증한다.
• 프레임워크는 실제 세계 환경으로의 전이에 성공적으로 적용되었으며, 시뮬레이션된 드론 착륙 작업을 통해 물리적 환경 적용 가능성과 내성 강도를 확인했다.