[논문 리뷰] Zeroth-order (Non)-Convex Stochastic Optimization via Conditional Gradient and Gradient Updates

Krishnakumar Balasubramanian, Saeed Ghadimi|arXiv (Cornell University)|2018. 09. 17.

Stochastic Gradient Optimization Techniques참고 문헌 28인용 수 3

한 줄 요약

이 논문은 함수 평가만을 사용하여 기울기가 없는 조건부 기울기 및 기울기 업데이트를 결합한 제로스터드 스토하스틱 최적화 알고리즘을 제안하며, 볼록 및 비볼록 문제 모두에서 표준 스토하스틱 기울기 방법과 유사한 수렴 속도를 달성한다. 구조적 희소성 하에서 스텝사이즈 조정을 통한 암묵적 정규화를 입증하고, 차원에 대해 다항로그 형태의 의존성을 가지는 잘라낸 알고리즘을 제안한다.

ABSTRACT

In this paper, we propose and analyze zeroth-order stochastic approximation algorithms for nonconvex and convex optimization. Specifically, we propose generalizations of the conditional gradient algorithm achieving rates similar to the standard stochastic gradient algorithm using only zeroth-order information. Furthermore, under a structural sparsity assumption, we first illustrate an implicit regularization phenomenon where the standard stochastic gradient algorithm with zeroth-order information adapts to the sparsity of the problem at hand by just varying the stepsize. Next, we propose a truncated stochastic gradient algorithm with zeroth-order information, whose rate depends only poly-logarithmically on the dimensionality.

연구 동기 및 목표

• 기울기 정보에 접근할 수 없는 조건에서 표준 스토하스틱 기울기 방법과 유사한 수렴 속도를 달성하는 제로스터드 스토하스틱 최적화 알고리즘을 개발하는 것.
• 구조적 희소성 가정 하에서 제로스터드 스토하스틱 기울기 방법의 암묵적 정규화 효과를 분석하는 것.
• 차원에 대해 다항로그 형태로만 의존하는 제로스터드 정보를 사용하는 잘라낸 스토하스틱 기울기 알고리즘을 설계하는 것.
• 비볼록 및 볼록 최적화를 위한 제로스터드 환경으로 조건부 기울기 방법을 일반화하는 것.

제안 방법

• 함수 평가만을 사용하여 조건부 기울기 알고리즘을 제로스터드 환경으로 일반화하며, 일阶 방법과 유사한 수렴 속도를 유지한다.
• 암묵적 정규화를 유도하는 스텝사이즈 조정 전략을 도입하여, 명시적 희소성 제약 없이 문제의 희소성에 적응할 수 있도록 한다.
• 고차원 성분의 영향을 제한하는 잘라낸 스토하스틱 기울기 알고리즘을 제안하며, 차원 의존성을 다항로그 스케일로 줄인다.
• 유한 차분을 통해 기울기를 추정하기 위해 제로스터드 오ракulum에 액세스하여, 비볼록 및 볼록 환경에서 기울기 없이 최적화를 가능하게 한다.
• 수렴 속도 향상과 희소성 촉진을 균형 잡기 위해 조건부 기울기 업데이트와 기울기 기반 업데이트를 결합한다.

실험 결과

연구 질문

• RQ1 제로스터드 스토하스틱 최적화는 함수 평가만을 사용하여 일阶 방법과 유사한 수렴 속도를 달성할 수 있는가?
• RQ2 구조적 희소성 가정 하에서 제로스터드 스토하스틱 기울기 하강법은 암묵적 정규화를 나타내는가?
• RQ3 잘라낸 제로스터드 스토하스틱 기울기 알고리즘이 선형이 아닌 다항로그 형태의 차원 의존성을 달성할 수 있는가?
• RQ4 스텝사이즈와 희소성 간의 상호작용이 제로스터드 최적화에서 수렴에 어떤 영향을 미치는가?

주요 결과

• 제안된 제로스터드 조건부 기울기 알고리즘은 함수 평가만을 사용함에도 불구하고 표준 스토하스틱 기울기 방법과 동일한 수렴 속도를 달성한다.
• 구조적 희소성 하에서 제로스터드 스토하스틱 기울기 하강법은 명시적 정규화 없이도 스텝사이즈 조정을 통해 희소성에 암묵적으로 적응한다.
• 제로스터드 정보를 사용하는 잘라낸 스토하스틱 기울기 알고리즘은 다항로그 형태의 차원 의존성을 달성하여 확장성에 크게 기여한다.
• 이 방법은 제로스터드 최적화에서 암묵적 정규화가 알고리즘 설계와 스텝사이즈 제어로부터 자연스럽게 유도될 수 있음을 보여준다.