[논문 리뷰] A Stochastic Subgradient Method for Distributionally Robust Non-Convex Learning

Mert Gürbüzbalaban, Andrzej Ruszczyński외 1명|arXiv (Cornell University)|2020. 06. 08.

Risk and Portfolio Optimization참고 문헌 54인용 수 4

한 줄 요약

이 논문은 데이터 분포 이탈을 다루기 위해 반경험적 위험을 사용하는 분포로 부터의 강건한 비볼록 학습을 위한 확률적 서브기울기 방법(_STS)을 제안한다. 비볼록이고 비미분 가능한 손실 함수에 대해 분포로 부터의 강건성 하에 최초로 정류점 수렴 보장을 제공하며, 표준 SGD에 비해 최소한의 계산 비용 증가로 이루어진다.

ABSTRACT

We consider a distributionally robust formulation of stochastic optimization problems arising in statistical learning, where robustness is with respect to uncertainty in the underlying data distribution. Our formulation builds on risk-averse optimization techniques and the theory of coherent risk measures. It uses semi-deviation risk for quantifying uncertainty, allowing us to compute solutions that are robust against perturbations in the population data distribution. We consider a large family of loss functions that can be non-convex and non-smooth and develop an efficient stochastic subgradient method. We prove that it converges to a point satisfying the optimality conditions. To our knowledge, this is the first method with rigorous convergence guarantees in the context of non-convex non-smooth distributionally robust stochastic optimization. Our method can achieve any desired level of robustness with little extra computational cost compared to population risk minimization. We also illustrate the performance of our algorithm on real datasets arising in convex and non-convex supervised learning problems.

연구 동기 및 목표

• 비볼록 및 비미분 가능한 설정에서 분포로 부터의 강건 최적화에 대한 수렴 보장의 부족을 해결한다.
• 분포 이탈에 대한 강건성을 유지하면서도 계산 비용을 크게 증가시키지 않는 효율적인 알고리즘을 개발한다.
• 실제 머신러닝 문제에서 흔히 나타나는 상향 및 하향 코의 존재하는 일반화된 미분 가능한 손실 함수를 위한 강건한 학습을 가능하게 한다.
• 반경험적 위험를 사용한 분포로 부터의 강건 형식 하에서 최적 조건 수렴을 이론적으로 보장한다.
• 실제 데이터셋에서 분포 이탈 상황에서의 실용적 강건성을 입증하며, 표준 SGD를 능가한다.

제안 방법

• 데이터 분포의 불확실성을 측정하기 위해 반경험적 위험를 사용하여 분포로 부터의 강건 문제를 수식화한다.
• 비볼록 및 비미분 가능한 손실 함수에 특화된 확률적 서브기울기 방법(_STS)을 제안한다.
• 최소-최대 문제의 구조를 다루기 위해 라그랑주 완화와 표본 기반 근사를 사용한다.
• 강건성 수준을 제어하기 위해 페널티 파라미터(κ)를 도입하여 강건성과 경험적 성능 간의 트레이드오���을 가능하게 한다.
• 일관된 위험 측정 및 약한 닫힘된 볼록 불확실성 집합을 기반으로 한 수렴 분석을 통해 정류점 수렴을 증명한다.
• 대규모 데이터셋에서의 강건성과 효율성을 확보하기 위해 적응형 스텝 사이즈와 샘플링 전략을 적용한 STS를 구현한다.

실험 결과

연구 질문

• RQ1 확률적 서브기울기 방법은 비미분 가능한 손실 함수를 가진 분포로 부터의 강건 비볼록 최적화에서 수렴 보장을 달성할 수 있는가?
• RQ2 표준 SGD와 비교해 복수의 데이터 분포 이탈 상황에서 제안된 방법은 어떻게 성능을 발휘하는가?
• RQ3 반경험적 위험를 사용해 분포로 부터의 강건성을 달성할 경우 계산 비용 증가는 얼마나 되는가?
• RQ4 이론적 강건 최적화 프레임워크 내에서 코와 비미분 가능한 점을 가진 손실 함수를 효과적으로 다룰 수 있는가?
• RQ5 강건성 수준 κ를 변화시킬 경우 실세계 데이터셋에서 일반화 성능 및 테스트 성능에 어떤 영향을 미치는가?

주요 결과

• STS 방법은 분포로 부터의 강건성 하에서 비볼록 및 비미분 가능한 손실 함수에 대해 정류점 수렴을 달성하며, 이는 비볼록 비미분 가능한 설정에서 최초의 이론적 보장을 제공한다.
• STS는 데이터 분포 이탈—예를 들어 MNIST 및 CIFAR10에서 클래스 0의 10% 삭제—에 대해 최소한의 계산 비용으로 강건성을 유지한다.
• MNIST 및 CIFAR10에서 κ = 0.8일 때 STS는 테스트 손실 CDF에서 SGD를 크게 능가하며, 분포 이탈 상황에서 꼬리 오차가 낮게 나타난다.
• 저소득 샘플의 80%가 제거된 Adult 데이터셋에서, STS는 특히 κ = 0.8와 같은 높은 강건성 수준에서 Bandit Mirror Descent(BMD)보다 더 나은 테스트 손실 CDF를 달성한다.
• 학습 데이터가 오염되지 않은 경우 STS는 SGD와 유사하거나 약간 열등한 성능을 보이며, 이는 강건성 페널티가 분포 이탈 상황에서만 활성화됨을 확인한다.
• 이 방법은 파라미터 κ를 통해 강건성을 효과적으로 제어할 수 있으며, 표준 SGD와 비교해 유의미한 계산 비용 증가 없이도 가능하다.