[논문 리뷰] Probabilistically Robust Learning: Balancing Average- and Worst-case Performance

Alexander Robey, Luiz F. O. Chamon외 2명|arXiv (Cornell University)|2022. 02. 02.

Adversarial Robustness in Machine Learning인용 수 7

한 줄 요약

이 논문은 평균적 성능와 최악의 경우 성능 사이의 균형을 이루는 확률적 강건 학습(PRL) 프레임워크를 소개한다. 이 프레임워크는 모든 편향에 대해 강건성을 요구하는 것이 아니라 대부분의 편향에 대해 강건성을 확보함으로써 위험 인식 최적화를 사용한다. PRL는 청소화 정확도와 강건 정확도 사이의 최신 기준 성과를 달성하며, 계산 비용이 더 낮은 바탕으로 CIFAR-10에서 99%의 강건성 커버리지 조건에서 적대적 훈련보다 6%포인트 높은 성능을 기록한다.

ABSTRACT

Many of the successes of machine learning are based on minimizing an averaged loss function. However, it is well-known that this paradigm suffers from robustness issues that hinder its applicability in safety-critical domains. These issues are often addressed by training against worst-case perturbations of data, a technique known as adversarial training. Although empirically effective, adversarial training can be overly conservative, leading to unfavorable trade-offs between nominal performance and robustness. To this end, in this paper we propose a framework called probabilistic robustness that bridges the gap between the accurate, yet brittle average case and the robust, yet conservative worst case by enforcing robustness to most rather than to all perturbations. From a theoretical point of view, this framework overcomes the trade-offs between the performance and the sample-complexity of worst-case and average-case learning. From a practical point of view, we propose a novel algorithm based on risk-aware optimization that effectively balances average- and worst-case performance at a considerably lower computational cost relative to adversarial training. Our results on MNIST, CIFAR-10, and SVHN illustrate the advantages of this framework on the spectrum from average- to worst-case robustness.

연구 동기 및 목표

• 작은 편향에 의해 실패하는 안전 중심 응용 분야에서 경험적 리스크 최소화(ERM)의 취약성을 해결하기 위해.
• 적대적 훈련의 보수성 문제를 해결하여 일반 성능가 떨어지고 높은 샘플 복잡도를 야기하는 문제를 해결하기 위해.
• 원칙적이고 해석 가능한 방식으로 평균적 성능와 최악의 경우 성능 사이를 보간하는 강건 학습 프레임워크를 개발하기 위해.
• 강건성 스펙트럼 전반에서 효율적인 훈련을 가능하게 하고 최소한의 계산 오버헤드를 유도하는 실용적인 알고리즘을 설계하기 위해.
• 확률적 강건성은 적대적 학습에서 관찰되는 강건성, 정확도, 샘플 복잡도 간의 근본적 트레이드오프를 피할 수 있음을 입증하기 위해.

제안 방법

• 모든 편향에 대해 강건성을 요구하는 것이 아니라 높은 확률로 허용 가능한 편향에 대해 강건성을 요구하는 새로운 학습 공식인 확률적 강건 학습(PRL)을 제안한다.
• 편향 분포에 대한 꼬리 성능를 제어하기 위해 조건부가치하한(CVaR) 측정을 사용하여 PRL 목적함수를 위험 인식 최적화 문제로 공식화한다.
• 편향 분포에 대해 CVaR 목적함수를 효율적으로 최적화할 수 있는 확률적 근사와 기울기 추정 기반의 새로운 훈련 알고리즘을 도입한다.
• 편향 탐색의 미분 가능한 근사화를 사용하여 순환 최소화가 필요한 표준 적대적 훈련을 피할 수 있도록 엔드 투 엔드 백프로파게이션을 가능하게 한다.
• 강건성 수준을 신뢰 수준 ρ로 매개변수화하여 평균적 성능(ρ→1)과 최악의 경우 성능(ρ→0) 사이를 보간할 수 있도록 한다.
• 이론적 분석을 통해 PRL가 ERM와 동일한 베이즈 최적의 일반 성능와 샘플 복잡도를 달성함을 보여주며, 이는 적대적 훈련과는 다름을 입증한다.

실험 결과

연구 질문

• RQ1 적대적 훈련의 보수성 문제를 피하면서도 강력한 강건성을 유지하는 강건 학습 프레임워크를 설계할 수 있는가?
• RQ2 확률적 강건성은 최악의 경우 강건 학습에 비해 더 낮은 샘플 복잡도와 더 나은 일반 성능를 제공하는가?
• RQ3 위험 인식 최적화는 대부분의 편향에 대해 강건한 모델을 저비용으로 효과적으로 훈련하는 데 사용될 수 있는가?
• RQ4 PRL의 강건성-정확도 트레이드오프는 다양한 강건성 수준에서 기존 방법들과 비교해 어떻게 되는가?
• RQ5 CVaR 측정은 실무에서 테스트 시 강건성을 측정하는 신뢰할 수 있는 대체 지표인가?

주요 결과

• CIFAR-10에서 PRL는 ρ=0.01 조건에서 모든 기준 모델보다 6%포인트 높은 강건 정확도를 달성하여 엄격한 강건성 요구 조건에서도 뛰어난 성능을 보였다.
• PRL는 청소화, 증강, 퍼센티루 정확도 지표 전반에서 TERM 및 (Rice 등, 2021)를 일관되게 능가하여 뛰어난 일반화 성능를 입증했다.
• PRL는 CIFAR-10, SVHN, MNIST에서 모든 기준 모델보다 낮은 CVaR 값을 기록하여 고확률 편향에 대한 최악의 손실 최소화 효과를 확인했다.
• ρ가 감소함에 따라 PRL는 일반 성능를 희생하면서도 적대적 정확도를 향상시켜 강건성 스펙트럼 전반에서 매끄러운 트레이드오프를 보였다.
• 이론적 분석을 통해 PRL가 고차원 설정에서 베이즈 최적의 일반 성능를 달성함을 입증하였으며, 이는 적대적으로 강건한 모델과는 다름을 확인했다.
• PRL는 ERM와 동등한 샘플 복잡도를 유지하지만, 적대적 훈련은 임의로 높은 샘플 복잡도를 야기할 수 있어 핵심적인 이점을 보였다.