[논문 리뷰] Gradient-free prox-methods with inexact oracle for stochastic convex optimization problems on a simplex

Alexander Gasnikov, Anastasia Lagunovskaya외 2명|arXiv (Cornell University)|2014. 12. 12.

Sparse and Compressive Sensing Techniques참고 문헌 11인용 수 9

한 줄 요약

이 논문은 단형 간격에서 경사도 없는 프록시 방법과 비정확 오라클을 위한 확률적 볼록 최적화를 제안하며, 유클리드 랜덤화가 적절히 프록스-구조와 정렬될 경우 구형 랜덤화와 동일한 성능을 낼 수 있음을 보여준다. 주요 기여는 랜덤화 전략과 프록스-구조를 균형 있게 조율하여, 비정확 오라클 조건 하에서 향상된 수렴 속도를 달성하는 최적의 방법을 개발한 것이다.

ABSTRACT

In the paper we show that euclidian randomization in some situations (i.e. for gradient-free method on a simplex) can be as good as the randomization on the unit sphere in 1-norm. That is on the simplex example we show that for gradient-free methods the choise of the prox-structure and the choise of a way of randomization have to be connected to each other. We demonstrate how it can be done in an optimal way. It is important that we consider inexact oracle.

연구 동기 및 목표

• 기울기 정보가 이용 불가능한 상황에서 단형 간격에서의 확률적 볼록 최적화 문제를 해결하기 위해.
• 경사도 없는 방법에서 랜덤화 전략과 프록스-구조 간의 상호작용을 조사하기 위해.
• 비정확 오라클 액세스와 효과적인 랜덤화를 단형 간격에서 통합하는 최적의 방법을 개발하기 위해.
• 비정확 오라클 가정 하에서 경사도 없는 프록시 방법의 수렴 속도를 확립하기 위해.
• 적절히 프록스-구조에 매칭될 경우 유클리드 랜덤화가 구형 랜덤화만큼 효과적일 수 있음을 보여주기 위해.

제안 방법

• 특정 프록스-구조를 단형 영역에 맞게 설계한 프록시 알고리즘 프레임워크를 사용한다.
• 선택된 프록스-구조와 일치시키기 위해, 단형에서 유클리드 샘플링을 통해 랜덤화를 수행한다. 단, 단위 구면에서가 아니라.
• 함수 값에 유한한 노이즈 또는 오차가 존재하는 경계가 있는 비정확 오라클 모델을 사용한다.
• 단형 상의 무작위 방향에서 유도된 확률적 하향기울기 근사치를 알고리즘에서 사용한다.
• 오라클 쿼리에서의 유한한 비정확성에 기반한 가정 하에서 수렴 분석을 수행한다.
• 랜덤화의 선택이 프록스-구조의 기하학적 특성과 단형 제약 집합과의 관계에 기반한 이론적 보장을 도출한다.

실험 결과

연구 질문

• RQ1 단형에서 유클리드 랜덤화가 프록스-구조와 적절히 정렬될 경우, 구형 랜덤화와 동일한 성능을 낼 수 있는가?
• RQ2 경사도 없는 최적화에서 프록스-구조의 선택은 어떻게 랜덤화 전략과 조율되어야 하는가?
• RQ3 이 설정에서 비정확 오라클 액세스 하에서 도달할 수 있는 수렴 속도는 무엇인가?
• RQ4 랜덤화와 프록스-구조를 최적의 방식으로 조합하여 부적합성 갭을 최소화할 수 있는가?
• RQ5 랜덤화와 프록스-구조 간의 상호작용은 확률적 프록시 방법의 수렴 행동에 어떻게 영향을 미치는가?

주요 결과

• 적절히 프록스-구조와 정렬될 경우 단형에서 유클리드 랜덤화가 구형 랜덤화와 동일한 수렴 속도를 달성할 수 있다.
• 최적의 방법은 랜덤화와 프록스-구조를 별개로 선택하는 것이 아니라, 상호 동기화된 설계가 필요하다.
• 비정확 오라클에서 유한한 오차가 존재하는 조건 하에서, k회 반복 시 수렴 속도는 O(1/√k)이다. 이는 기존 기울기 기반 방법의 알려진 한계와 일치한다.
• 적절한 랜덤화 조건 하에서, 노이즈가 있는 함수 평가가 존재하더라도 부적합성 갭이 O(1/√k)의 순서로 유지된다.
• 분석 결과, 프록스-구조의 선택이 랜덤화의 효과성에 상당한 영향을 미치며, 특히 기울기 정보가 없는 경우 더욱 두드러진다.
• 이론적 결과는 제안된 방법이 주어진 제약 조건 하에서 수렴 속도 측면에서 최적이 됨을 확인한다.