[논문 리뷰] Cost-Sensitive Robustness against Adversarial Examples

Xiao Zhang, David Evans|arXiv (Cornell University)|2018. 10. 22.

Adversarial Robustness in Machine Learning인용 수 13

한 줄 요약

이 논문은 전체 적대적 로버스트니에 비해 더 실용적인 대안으로 비용 감수성 강건성을 제안하며, 학습 목표에 클래스별 비용을 통합한다. Wong & Kolter (2018)의 강건 학습 프레임워크를 비용 행렬로 수정함으로써, 비용 가중 강건 오차는 크게 감소시키면서도 MNIST와 CIFAR10에서 높은 표준 정확도를 유지함으로써, 높은 영향도를 가진 적대적 변환에 대해 향상된 보안성을 입증한다.

ABSTRACT

Several recent works have developed methods for training classifiers that are certifiably robust against norm-bounded adversarial perturbations. These methods assume that all the adversarial transformations are equally important, which is seldom the case in real-world applications. We advocate for cost-sensitive robustness as the criteria for measuring the classifier's performance for tasks where some adversarial transformation are more important than others. We encode the potential harm of each adversarial transformation in a cost matrix, and propose a general objective function to adapt the robust training method of Wong & Kolter (2018) to optimize for cost-sensitive robustness. Our experiments on simple MNIST and CIFAR10 models with a variety of cost matrices show that the proposed approach can produce models with substantially reduced cost-sensitive robust error, while maintaining classification accuracy.

연구 동기 및 목표

• 기존 강건 학습 방법이 실제 세계적 영향도에 관계없이 모든 적대적 변형을 동일하게 취급하는 한계를 해결하기 위해.
• 각 변환의 잠재적 피해를 코딩하는 비용 행렬을 사용하여 다양한 적대적 잘못된 분류의 심각도를 모델링하기 위해.
• 전체 강건성보다는 비용 감수성 강건성에 최적화된 일반화 가능한 학습 목표를 개발하기 위해.
• 높은 비용의 적대적 변환에 대해 강건성을 크게 향상시키면서도 표준 분류 정확도를 유지하기 위해.

제안 방법

• 이 방법은 Wong & Kolter (2018)의 인증된 강건성 프레임워크를 비용 행렬 $\bm{C}$ 를 학습 목표에 통합함으로써 확장한다.
• 비용 가중 강건 오차를 정의하여, 더 높은 비용을 가진 잘못된 분류를 학습 손실에서 우선적으로 최소화하도록 한다.
• 비용 행렬이 고려하는 적대적 변형의 크기에 영향을 주는 수정된 강건 최적화 절차를 사용하여 학습 목표를 최적화한다.
• 이 방법은 이진 및 실수형 비용 행렬을 모두 지원하여 다양한 위협 시나리오에 대한 민감한 모델링을 가능하게 한다.
• 청정 데이터에 대한 표준 교차 엔트로피 손실과의 균형을 통해 표준 정확도를 유지한다.
• 기존의 인증된 강건 학습 파ipeline과 호환되며, 표준 이미지 분류 모델에 적용 가능하다.

실험 결과

연구 질문

• RQ1 모든 잘못된 분류를 동일하게 취급하는 것과는 달리, 실제 세계의 위협 우선순위를 반영하는 방식으로 적대적 강건성을 향상시킬 수 있는가?
• RQ2 학습 목표에 비용 행렬을 통합하면 표준 정확도와 강건성 사이의 트레이드오프에 어떤 영향을 미치는가?
• RQ3 제안된 방법은 비교적 높은 표준 정확도를 유지하면서도 높은 영향도를 가진 적대적 변환에 대해 더 뛰어난 성능을 달성할 수 있는가?
• RQ4 이중 및 실수형 비용 행렬을 포함한 다양한 비용 행렬 구조에 대해 이 방법은 어떻게 스케일링되는가?
• RQ5 다양한 적대적 강도에서 비용 감수성 접근법이 전체 강건성 기반 모델보다 우월한가?

주요 결과

• 단일 시드 디지트(9)를 가진 MNIST에서, 비용 감수성 모델은 실수형 비용 행렬 하에서 비용 감수성 강건 오차를 베이스라인의 1.20%에서 0.45%로 감소시켰다.
• CIFAR10에서 (dog, bird) 변환에 대해 비용이 10일 경우, 모델은 비용 감수성 강건 오차를 베이스라인의 28.90%에서 15.40%로 감소시켰다.
• CIFAR10의 (deer, animal) 작업에서, 비용 감수성 모델은 비용 감수성 강건 오차를 3.77%로 달성했으며, 베이스라인은 16.99%였다.
• 모든 작업에서 표준 분류 정확도가 거의 동일한 수준(≈31.80%)을 유지하여 청정 데이터 성능에 대한 열화가 없음을 입증했다.
• 적대적 강도 $\epsilon$ 가 증가함에 따라, 특히 높은 비용의 변환에 대해 비용 감수성 강건성에서의 향상이 더욱 두드러졌다.
• 히트맵 분석 결과, 비용 감수성 모델은 특히 차량에서 동물로의 변환에 대해 높은 비용 영역에서 강건 오차를 크게 감소시켰다.