[논문 리뷰] Stochastic Zeroth-order Optimization in High Dimensions

Yining Wang, Simon S. Du외 2명|arXiv (Cornell University)|2017. 10. 29.

Sparse and Compressive Sensing Techniques참고 문헌 35인용 수 28

한 줄 요약

이 논문은 노이즈가 있는 함수 쿼리만을 사용하여 고차원 볼록 함수에 대한 두 가지 확률적 제로레벨 최적화 알고리즘을 제안한다. 기울기 또는 함수 구조의 희소성 특성을 활용함으로써, 두 알고리즘 모두 임베딩 차원 d에 대해 로그적으로만 의존하는 수렴 속도를 달성하며, 기존 방법이 d에 대해 다항적으로 증가하는 것과는 비교할 수 없을 정도로 향상된 성능을 보인다.

ABSTRACT

We consider the problem of optimizing a high-dimensional convex function using stochastic zeroth-order queries. Under sparsity assumptions on the gradients or function values, we present two algorithms: a successive component/feature selection algorithm and a noisy mirror descent algorithm using Lasso gradient estimates, and show that both algorithms have convergence rates that de- pend only logarithmically on the ambient dimension of the problem. Empirical results confirm our theoretical findings and show that the algorithms we design outperform classical zeroth-order optimization methods in the high-dimensional setting.

연구 동기 및 목표

• 기울기가 제공되지 않고 함수 평가가 노이즈가 섞인 고차원 확률적 제로레벨 최적화의 과제를 다루기.
• 기존 제로레벨 방법이 고차원 환경에서 d에 대해 다항적으로 의존하는 문제를 극복하기.
• 희소성 가정 하에 차원 d에 대해 독립적인 수렴 속도를 달성하는 알고리즘 개발 (로그적 요소를 제외하고).
• 이론적 수렴 경계를 제공하고, 합성 고차원 함수에 대한 시뮬레이션을 통해 성능를 검증하기.
• 약한 희소성 가정 하에 차원에 거의 의존하지 않는 수렴을 달성할 수 있는지 탐색하고, 헤시안 연속성 조건을 통해 수렴 속도 향상 가능 여부 분석하기.

제안 방법

• 노이즈가 섞인 함수 쿼리를 사용하여 중요한 변수의 집합 S를 식별하는 순차적 구성/특성 선택 알고리즘을 제안하고, S에 대해 저차원 제로레벨 최적화를 적용한다.
• 편향 보정 Lasso를 사용해 제로레벨 쿼리에서 기울기를 추정하는 노이즈 있는 미러 강하 알고리즘을 도입하여 고차원 최적화의 효율성을 높인다.
• 희소 고차원 환경에서 추정 편향을 줄이고 수렴 속도를 향상시키기 위해 Lasso 기반 기울기 추정에 편향 보정 기법을 적용한다.
• 희소성 구조에 맞춘 정규화를 사용한 미러 강하를 적용하여, 희소성 조건 하에 차원에 독립적인 수렴을 가능하게 한다.
• 헤시안 연속성 가정을 도입하여, 미러 강하 프레임워크 내에서 수렴 속도를 O(T^{-1/4})에서 O(T^{-1/3})로 향상시킨다.
• i.i.d. 노이즈를 가진 확률적 오라클 쿼리를 사용하여 하이퍼파rameter 튜닝 및 시뮬레이션 기반 최적화에서 실제 블랙박스 함수 평가를 모델링한다.

실험 결과

연구 질문

• RQ1 희소성 가정 하에 제로레벨 최적화가 임베딩 차원 d에 대해 로그적으로만 의존하는 수렴 속도를 달성할 수 있는가?
• RQ2 편향 보정 Lasso 기반 기울기 추정을 사용하는 미러 강하 프레임워크가 고차원 제로레벨 최적화에서 특성 선택 기반 접근법을 능가할 수 있는가?
• RQ3 약한 또는 강한 희소성 가정 하에 고차원 제로레벨 최적화에서 달성 가능한 최적 수렴 속도는 무엇인가?
• RQ4 헤시안 연속성 가정이 두 번째 순서 오라클 접근이 필요 없이도 수렴 속도 향상에 기여할 수 있는가?
• RQ5 희소성 조건 하에 O(poly(log d) T^{-1/2}) 수렴 속도를 달성할 수 있으며, 이는 저차원 최적 수렴 속도와 일치하는가?

주요 결과

• 순차적 구성 선택 알고리즘은 희소성 가정 하에 O(T^{-1/4})의 수렴 속도를 달성하며, d에 대해 로그적 의존성 존재.
• 편향 보정 Lasso 기반 기울기 추정을 사용하는 미러 강하 알고리즘은 추가적인 헤시안 연속성 가정 하에 더 빠른 O(T^{-1/3})의 수렴 속도를 달성.
• 실험 결과 두 제안된 알고리즘이 고차원 환경에서 전통적인 제로레벨 방법(예: 국소 평균 방법)보다 우수한 성능을 보였다.
• 모의 실험에서 미러 강하 알고리즘이 특성 선택 방법을 일관되게 능가했으며, 하이퍼파rameter가 적어 튜닝이 더 쉬웠다.
• 이론적 분석을 통해 수렴 속도가 기존 방법과 달리 임베딩 차원 d에 대해 로그적으로만 의존한다는 것이 확인되었으며, 기존 방법은 d에 대해 다항적으로 증가한다.
• 논문은 강한 희소성 가정 하에 제로레벨 최적화가 로그(d) 요소를 제외하고는 차원에 독립적인 수렴을 달성할 수 있음을 입증했다.