[논문 리뷰] An Accelerated Method for Derivative-Free Smooth Stochastic Convex Optimization

Eduard Gorbunov, Pavel Dvurechensky외 1명|arXiv (Cornell University)|2018. 02. 25.

Stochastic Gradient Optimization Techniques인용 수 5

한 줄 요약

이 논문은 두 점 피드백과 비정확한 함수 평가를 수반하는 부드러운 스 tochastic 볼록 최적화 문제를 위한 유도 없는 가속 알고리즘을 제안한다. 여기서 노이즈는 확률적 요소와 유계의 적대적 성분을 모두 포함한다. 이 방법은 가속 경사하강법에 비해 √n 요소 이내의 복잡도 한계를 확보하며, 놀랍게도 ℓ¹-노름 프록시 설정을 사용할 경우 표준 ℓ²-노름 설정보다 더 좋은 수렴 속도를 달성한다. 특히 해가 희소한 경우에 두드러진다.

ABSTRACT

We consider an unconstrained problem of minimizing a smooth convex function which is only available through noisy observations of its values, the noise consisting of two parts. Similar to stochastic optimization problems, the first part is of stochastic nature. The second part is additive noise of unknown nature, but bounded in absolute value. In the two-point feedback setting, i.e. when pairs of function values are available, we propose an accelerated derivative-free algorithm together with its complexity analysis. The complexity bound of our derivative-free algorithm is only by a factor of $\sqrt{n}$ larger than the bound for accelerated gradient-based algorithms, where $n$ is the dimension of the decision variable. We also propose a non-accelerated derivative-free algorithm with a complexity bound similar to the stochastic-gradient-based algorithm, that is, our bound does not have any dimension-dependent factor except logarithmic. Notably, if the difference between the starting point and the solution is a sparse vector, for both our algorithms, we obtain a better complexity bound if the algorithm uses an $1$-norm proximal setup, rather than the Euclidean proximal setup, which is a standard choice for unconstrained problems

연구 동기 및 목표

• 확률적 및 적대적 노이즈 성분을 모두 포함하는 노이즈 있는 함수 평가 조건 하에서 유도 없는 스 tochastic 볼록 최적화 문제에 도전한다.
• 오직 쌍의 노이즈가 섞인 함수 값만 이용 가능한 두 점 피드백 모델에서 작동하는 효율적인 알고리즘을 개발한다.
• 기울기 정보 없이도 가속 경사하강법의 복잡도 한계에 가까운 복잡도 한계를 확보한다.
• 프록시 설정 선택(ℓ¹ 대비 ℓ²)이 수렴 속도에 미치는 영향을 분석하며, 특히 희소 설정에서의 영향을 조사한다.
• 다양한 노이즈 수준과 고차원 문제에서 제안된 방법의 강인성을 시험한다.

제안 방법

• 두 점 피드백 오라클을 사용하는 새로운 가속 유도 없는 알고리즘을 제안하며, 이 오라클은 동시에 두 점에서 노이즈가 섞인 함수 값을 반환한다.
• 초기점과 해의 차이가 희소 벡터일 경우 더 나은 복잡도 한계를 확보할 수 있는 ℓ¹-노름 기반 프록시 설정을 도입한다.
• 목적 함수가 부드럽고(즉, L₂-부드럽고), 확률적 기울기의 분산이 유계라는 가정 하에 알고리즘을 분석한다.
• 측정 오차 또는 반올림 오차를 모델링하기 위해 |η(x,ξ)| ≤ Δ 를 만족하는 유계 적대적 노이즈 성분 η(x,ξ)를 통합한다.
• 기울기 기반 가속 방법의 최고 성능에 비해 √n 요소 이내의 복잡도 한계를 확보하는 가속 방법의 복잡도 한계를 확립한다.
• 차원에 따라 변하는 요소가 로그 항 이외에는 없는 표준 스 tochastic 기울기 방법과 동일한 복잡도 한계를 갖는 비가속 버전을 제공한다.

실험 결과

연구 질문

• RQ1 확률적 및 유계 적대적 노이즈가 동시에 존재하는 조건에서, 가속 유도 없는 알고리즘이 가속 경사하강법과 유사한 복잡도를 달성할 수 있는가?
• RQ2 특히 해가 희소한 경우에, 프록시 설정 선택(ℓ¹ 대비 ℓ²)이 유도 없는 최적화에서 수렴 속도에 어떤 영향을 미치는가?
• RQ3 유계이지만 알려지지 않은 적대적 노이즈가 유도 없는 스 tochastic 최적화 알고리즘의 성능에 어떤 영향을 미치는가?
• RQ4 제안된 방법이 이론적 분석에서 예측한 상한보다 훨씬 큰 노이즈 수준 Δ을 가질 경우에도 좋은 수렴 성질을 유지할 수 있는가?
• RQ5 특히 고차원 설정에서 문제 차원 n이 증가함에 따라 제안된 알고리즘은 어떻게 스케일링되는가?

주요 결과

• 기울기 정보 없이도, 가속 유도 없는 알고리즘은 최고 성능의 가속 경사하강법에 비해 √n 요소 이내의 복잡도 한계를 확보한다.
• 비가속 유도 없는 알고리즘은 차원에 따라 변하는 요소가 로그 항 이외에는 없는 표준 스 tochastic 기울기 방법과 동일한 복잡도 한계를 확보한다.
• 놀랍게도, 초기점과 해의 차이가 희소 벡터일 경우, ℓ¹-노름 프록시 설정이 표준 ℓ²-노름 설정보다 더 나은 복잡도 한계를 제공한다.
• 수치 실험 결과, 이론적 상한을 훨씬 초월하는 노이즈 수준 Δ을 가질 경우에도 알고리즘이 ε = 10⁻³ 수준의 ε-해에 성공적으로 도달함을 확인하였다.
• n = 100에서 5000까지 다양한 문제 차원과 데이터셋(예: LIBSVM 라이브러리의 로지스틱 회귀 문제 포함)에서 강인한 성능을 보였다.
• 로지스틱 회귀 문제에 대한 실험 결과, ℓ¹-프록시 설정은 모든 테스트 데이터셋에서 일관되게 최고 또는 근사 최고 성능을 보였다.