[논문 리뷰] Regret Analysis of Global Optimization in Univariate Functions with Lipschitz Derivatives

Kaan Gökcesu, Hakan Gökcesu|arXiv (Cornell University)|2021. 08. 24.

Advanced Bandit Algorithms Research참고 문헌 48인용 수 4

한 줄 요약

이 논문은 Piyavskii-Shubert와 같은 하한 기반 알고리즘을 사용한 단변수 함수의 전역 최적화에서 누적 오차를 분석한다. 리프시츠 연속 함수의 경우 파am터 $L$에 대해 $O(L\log T)$의 누적 오차를 확립하고, 리프시츠 스무스 함수의 경우 파am터 $H$에 대해 $O(H)$의 오차를 달성하며, 더 넓은 함수 클래스로 확장된다.

ABSTRACT

In this work, we study the problem of global optimization in univariate loss functions, where we analyze the regret of the popular lower bounding algorithms (e.g., Piyavskii-Shubert algorithm). For any given time $T$, instead of the widely available simple regret (which is the difference of the losses between the best estimation up to $T$ and the global optimizer), we study the cumulative regret up to that time. With a suitable lower bounding algorithm, we show that it is possible to achieve satisfactory cumulative regret bounds for different classes of functions. For Lipschitz continuous functions with the parameter $L$, we show that the cumulative regret is $O(L\log T)$. For Lipschitz smooth functions with the parameter $H$, we show that the cumulative regret is $O(H)$. We also analytically extend our results for a broader class of functions that covers both the Lipschitz continuous and smooth functions individually.

연구 동기 및 목표

• 단순 오차를 넘어서 단변수 함수의 전역 최적화에서 누적 오차를 분석하는 것.
• Piyavskii-Shubert와 같은 하한 기반 알고리즘의 누적 오차 최소화 성능을 평가하는 것.
• 리프시츠 연속 및 리프시츠 스무스 도함수를 가진 함수에 대해 날카운 오차 경계를 유도하는 것.
• 리프시츠 연속성과 스무스함을 모두 일반화하는 더 넓은 함수 클래스로 분석을 확장하는 것.

제안 방법

• 간단한 오차가 아닌 누적 오차 프레임워크를 채택하여 시간 $T$ 동안의 총 손실을 측정한다.
• 도함수의 리프시츠 제약 조건에 기반한 신뢰구간을 구성하는 하한 기반 알고리즘을 적용한다.
• 리프시츠 도함수 가정 하에 함수 근사에 핵심적으로 사용되는 Piyavskii-Shubert 알고리즘을 사용한다.
• 하한이 전역 최솟값에 수렴하는 속도를 분석하여 오차 경계를 도출한다.
• 리프시츠 연속성과 스무스함의 특성을 조합하여 더 넓은 함수 클래스로 결과를 일반화한다.

실험 결과

연구 질문

• RQ1 하한 기반 알고리즘이 단변수 전역 최적화에서 누적 오차에 대해 어떻게 행동하는가?
• RQ2 리프시츠 연속 함수의 경우 파am터 $L$에 대해 시간 $T$에 따라 누적 오차가 어떻게 척도가 설정되는가?
• RQ3 리프시츠 스무스 함수의 경우 파am터 $H$에 대해 누적 오차 경계는 무엇인가?
• RQ4 리프시츠 연속성과 스무스 함수를 모두 포함하는 더 넓은 함수 클래스로 오차 분석을 확장할 수 있는가?

주요 결과

• 파am터 $L$을 가진 리프시츠 연속 도함수를 가진 단변수 함수의 경우, 누적 오차는 $O(L\\log T)$로 경계된다.
• 파am터 $H$를 가진 리프시츠 스무스 도함수를 가진 함수의 경우, 누적 오차는 $O(H)$로 경계되며, $T$와 무관하다.
• 오차 경계는 도함수의 리프시츠 제약 조건을 활용하여 검색 간격을 정밀화하는 하한 기반 알고리즘을 통해 도출된다.
• 리프시츠 연속성과 스무스함을 모두 일반화하는 더 넓은 함수 클래스로 분석을 확장하였으며, 동일한 오차 순서를 유지한다.