[논문 리뷰] Theoretical Analysis of Bayesian Optimisation with Unknown Gaussian Process Hyper-Parameters

Ziyu Wang, Nando de Freitas|arXiv (Cornell University)|2014. 06. 30.

Advanced Bandit Algorithms Research참고 문헌 22인용 수 38

한 줄 요약

이 논문은 커널 하이퍼파rameter가 알려져 있지 않고 관측 노이즈가 확률적일 때 가우시안 프로세스를 사용한 베이지안 최적화에 대해 이론적으로 누적 누적 손실 한계를 처음으로 제시한다. 기대 개선도를 사용하고 하이퍼파rameter를 적응적으로 추정할 경우, 서브가우시안 노이즈 하에서 비선형 손실을 달성할 수 있음을 입증하며, 실무에서 강인한 하이퍼파rameter 학습을 위한 이론적 지침을 제공한다.

ABSTRACT

Bayesian optimisation has gained great popularity as a tool for optimising the parameters of machine learning algorithms and models. Somewhat ironically, setting up the hyper-parameters of Bayesian optimisation methods is notoriously hard. While reasonable practical solutions have been advanced, they can often fail to find the best optima. Surprisingly, there is little theoretical analysis of this crucial problem in the literature. To address this, we derive a cumulative regret bound for Bayesian optimisation with Gaussian processes and unknown kernel hyper-parameters in the stochastic setting. The bound, which applies to the expected improvement acquisition function and sub-Gaussian observation noise, provides us with guidelines on how to design hyper-parameter estimation methods. A simple simulation demonstrates the importance of following these guidelines.

연구 동기 및 목표

• 알 수 없는 GP 하이퍼파arameter와 제한된 데이터로부터 추정이 필요할 때, 베이지안 최적화에 대한 이론적 분석의 부족을 해결하기 위해.
• 이전의 결정론적 손실 한계를 서브가우시안 관측 노이즈가 존재하는 확률적 설정으로 확장하기 위해.
• 특히 노이즈가 있는 함수 평가가 존재할 경우, 하이퍼파arameter 추정 방법에 대한 이론적 근거를 제공하기 위해.
• 형식적 손실 분석을 통해 강인한 하이퍼파arameter 추정 전략의 설계를 안내하기 위해.

제안 방법

• 알 수 없는 GP 하이퍼파arameter 하에서 기대 개선도 획득 함수를 사용한 베이지안 최적화에 대한 누적 손실 한계를 유도한다.
• 서브가우시안 관측 노이즈가 존재하는 확률적 설정을 분석하며, 대칭 가우시안, 베르누이, 균일 노이즈를 포함한다.
• GP 사전분포를 사용한 베이지안 프레임워크를 적용하고 최적의 보상과 관측된 보상 간의 차이에 대한 한계를 유도한다.
• 집중 불등식과 가우시안 프로세스 사후 분산의 성질을 활용하여 추정 오차를 통제한다.
• 커널 길이 척도의 하한과 상한을 사용하여 하이퍼파arameter 불확실성에 대한 보조 한계를 도입한다.
• 카우치-슈바르츠 및 로그-합 불등식을 사용하여 T 반복 동안의 누적 손실을 한정한다.

실험 결과

연구 질문

• RQ1 알 수 없는 GP 하이퍼파arameter와 확률적 관측이 존재할 때, 베이지안 최적화의 이론적 성능 보장(손실 기준)은 무엇인가?
• RQ2 하이퍼파arameter가 사전에 알려져 있지 않을 경우, 서브가우시안 노이즈는 베이지안 최적화의 수렴 속도에 어떻게 영향을 미치는가?
• RQ3 하이퍼파arameter 불확실성 하에서 기대 개선도 획득 함수에 대해 이론적 손실 한계를 설정할 수 있는가?
• RQ4 확률적 설정에서 비선형 손실을 보장하기 위해 하이퍼파arameter 추정에 필요한 조건은 무엇인가?

주요 결과

• 논문은 알 수 없는 GP 하이퍼파arameter와 서브가우시안 노이즈 하에서 베이지안 최적화에 대해 O(√T log T) 형태의 누적 손실 한계를 확립한다.
• 손실 한계는 하이퍼파aram터 추정 오차와 사후 분산에 의존하며, 명시적인 로그 항 log((t+σ²)/σ²) 의 의존성이 있다.
• 분석 결과, 하이퍼파aram터 추정 방법의 선택이 손실에 결정적인 영향을 미치며, 부적절한 추정은 나쁜 수렴을 초래할 수 있음을 보여준다.
• 하이퍼파aram터가 알려진 구간 내에서 유한함을 가정하는 조건 하에서 유도되었으며, 이는 이전의 결정론적 함수에 대한 연구를 확률적 경우로 확장한 것이다.
• 시뮬레이션을 통해 이론적 지침을 따를 경우 난이도 높은 하이퍼파aram터 추정보다 더 우수한 성능을 얻을 수 있음을 입증한다.