[논문 리뷰] Regret analysis of the Piyavskii-Shubert algorithm for global Lipschitz optimization

Clément Bouttier, Tommaso Cesari외 2명|arXiv (Cornell University)|2020. 02. 06.

Advanced Bandit Algorithms Research참고 문헌 34인용 수 4

한 줄 요약

이 논문은 글로벌 리프시츠 최적화를 위한 Piyavskii-Shubert 알고리즘에 대한 최초의 리그레트 분석을 제공하며, 비인증 및 인증 설정 모두에서 날카로운 샘플 복잡도 상한을 확립한다. 이는 함수 계층의 패킹 수를 활용하여 알고리즘이 거의 최적의 성능을 달성함을 증명하며, Hansen 등(1991)이 제기한 인증 복잡도에 관한 열린 문제를 해결한다.

ABSTRACT

We consider the problem of maximizing a non-concave Lipschitz multivariate function over a compact domain by sequentially querying its (possibly perturbed) values. We study a natural algorithm designed originally by Piyavskii and Shubert in 1972, for which we prove new bounds on the number of evaluations of the function needed to reach or certify a given optimization accuracy. Our analysis uses a bandit-optimization viewpoint and solves an open problem from Hansen et al.\\ (1991) by bounding the number of evaluations to certify a given accuracy with a near-optimal sum of packing numbers.

연구 동기 및 목표

• 순차적 블랙박스 액세스 하에서 글로벌 리프시츠 최적화에서 Piyavskii-Shubert 알고리즘의 샘플 복잡도를 분석하는 것.
• Hansen 등(1991)이 제기한, 주어진 최적화 정확도를 인증하기 위해 필요한 평가 수에 관한 열린 문제를 해결하는 것.
• 비인증 및 인증 버전의 알고리즘에서 ε-최적성을 달성하기 위해 필요한 함수 평가 수에 대한 상한을 설정하는 것.
• 목적 함수의 다양한 형태와 척도에 적응할 수 있도록, 새로운 분석 기법을 통해 목적 함수의 계층을 활용하는 것.

제안 방법

• 알고리즘은 리프시츠 연속성과 이전 평가 기반으로 알려지지 않은 함수를 상위 근사하는 조각별 콘형 근사 함수를 사용한다.
• 각 라운드에서 다음 쿼리 포인트는 근사 함수의 최대화자로 선택되어 검색의 점진적 정밀도가 보장된다.
• 인증 알고리즘의 경우, 근사 함수와 현재 추천값 간의 최대 차이로 오차 인증서를 계산한다.
• 분석은 함수 계층의 패킹 수의 합에 대한 새로운 적분 표현을 도입하여, 근사 최적 집합 대신 적응성을 향상시킨다.
• 밴딧 최적화 관점에서 단순 리그레트와 인증 오차에 대한 상한을 유도하는 데 활용한다.
• 샘플 복잡도가 함수 계층의 패킹 수의 합에 비례하며, 거의 최적성을 달성함을 증명한다.

실험 결과

연구 질문

• RQ1 ε-최적성을 달성하기 위해 비인증 설정에서 Piyavskii-Shubert 알고리즘에 필요한 평가 수는 얼마인가?
• RQ2 인증 설정에서 어떤 추천이 ε-최적임을 인증하기 위해 필요한 평가 수는 얼마인가?
• RQ3 근사 최적 집합 대신 함수 계층의 패킹 수를 사용하여 알고리즘 성능을 상한으로 제시할 수 있는가?
• RQ4 Piyavskii-Shubert 알고리즘이 인증 및 비인증 설정 모두에서 거의 최적 샘플 복잡도를 달성하는가?
• RQ5 리프시츠 제약 조건 하에서 목적 함수의 다양한 형태와 척도에 대해 알고리즘이 어떻게 적응하는가?

주요 결과

• 논문은 비인증 설정에서 ε-최적성을 달성하기 위해 필요한 평가 수가 함수 계층의 패킹 수의 합으로 상한이 있음을 입증한다.
• 인증 설정에서는 ε-최적성을 인증하기 위해 필요한 평가 수가 거의 최적의 패킹 수의 합으로 상한이 있으며, 이는 Hansen 등(1991)이 제기한 열린 문제를 해결한다.
• 분석 결과, 알고리즘의 성능이 계층 기반 패킹 수를 통해 목적 함수의 내재 기하학에 적응함을 보여준다.
• 상한은 로그 인자 수준에서 날카로우며, 이전의 worst-case 상한(n⁻¹/d 비례)보다 향상된다.
• 인증 버전의 알고리즘은 Bachoc 등[2]의 관련 연구에서 제시한 인스턴스에 의존적인 하한과 상수 인자 수준에서 일치하는 샘플 복잡도를 달성한다.
• 기존 작업 대비 승수 상수를 향상시킨 패킹 수의 합에 대한 적분 표현을 제공한다.