[논문 리뷰] Certification of Semantic Perturbations via Randomized Smoothing.

Marc Fischer, Maximilian Baader외 1명|arXiv (Cornell University)|2020. 02. 27.

Generative Adversarial Networks and Image Synthesis참고 문헌 22인용 수 5

한 줄 요약

이 논문은 매개변수화된 교란에 대해 일반화된 랜덤 스무딩 방법을 도입하여 음성의 회전, 이동, 볼륨 변화와 같은 의미적 교란에 대해 강건성을 인증한다. ImageNet의 ResNet-50에 대해, 28%의 이미지에 대해 ±30° 이내의 회전에 대해 증명 가능한 강건성을 확보하여 기하학적 및 의미적 변형에 대해 인증된 강건성 분야에서 새로운 최고 성능을 달성한다.

ABSTRACT

We introduce a novel certification method for parametrized perturbations by generalizing randomized smoothing. Using this method, we construct a provable classifier that can establish state-of-the-art robustness against semantic perturbations including geometric transformations (e.g., rotation, translation), for different types of interpolation, and, for the first time, volume changes on audio data. Our experimental results indicate that the method is practically effective: for ResNet-50 on ImageNet, it achieves rotational robustness provable up to $\pm 30^\circ$ for 28% of images.

연구 동기 및 목표

• 기하학적 변형과 음성 볼륨 변화와 같은 의미적 교란에 대한 인증된 강건성 방법의 부족을 해결하기 위해.
• 표준 적대적 노이즈를 초월하여 공식적인 강건성 보장을 가능하게 하기 위해, 랜덤 스무딩을 매개변수화된 교란을 처리할 수 있도록 확장하기 위해.
• 음성 데이터의 볼륨 변화에 대해 처음으로 증명 가능한 강건성 보장을 제공하기 위해.
• ImageNet에서 회전 및 이동 교란에 대해 최고 성능의 인증된 강건성을 달성하기 위해.

제안 방법

• 기하학적 변형과 보간 유형을 포함한 매개변수화된 교란을 지원하기 위해 랜덤 스무딩을 일반화한다.
• 연속적인 매개변수 공간에서 예측의 강건성을 추정하기 위해 교란된 입력의 몬테카를로 샘플링을 사용한다.
• 가장 가능성이 높은 클래스에 대한 신뢰구간을 유도하기 위해 농도 부등식을 적용한다.
• 회전 및 스케일링과 같은 변형에서 발생하는 i.i.d.가 아닌 교란을 처리하기 위해 스무딩 프레임워크를 적응시킨다.
• 변형 매개변수에 걸쳐 인증 과정에서의 연속성을 유지하기 위해 미분 가능한 보간 전략을 도입한다.
• 신뢰구간 너비에 기반한 인증 예측 임계값을 사용하여 강건성 보장을 보장한다.

실험 결과

연구 질문

• RQ1 랜덤 스무딩이 회전 및 이동과 같은 의미적 교란에 대해 인증된 강건성을 제공하도록 확장될 수 있는가?
• RQ2 스무딩 기반 인증을 사용하여 음성 데이터의 볼륨 변화에 대해 증명 가능한 강건성을 달성할 수 있는가?
• RQ3 기존의 인증된 강건성 방법과 비교해 볼 때, 이 논문의 방법은 ImageNet에서 강건성 반경과 커버리지 측면에서 어떻게 성능을 내는가?
• RQ4 새로운 인증 프레임워크 하에서 강건성 커버리지와 모델 정확도 사이의 상충 관계는 어떠한가?

주요 결과

• ResNet-50를 사용할 경우, ImageNet의 28% 이미지에 대해 ±30° 이내의 회전에 대해 증명 가능한 강건성을 확보한다.
• 스무딩 기반 접근법을 사용하여 음성 데이터의 볼륨 변화에 대해 처음으로 인증된 강건성 보장을 제공한다.
• 프레임워크는 다양한 보간 방법을 포함한 매개변수화된 교란을 처리하기 위해 랜덤 스무딩을 일반화한다.
• ImageNet에서 기하학적 변형에 대해 최고 성능의 인증된 강건성을 확립한다.