[논문 리뷰] Robust Bayesian Optimization via Tempered Posteriors

Jiguang Li, Hengrui Luo|arXiv (Cornell University)|2026. 01. 11.

Advanced Bandit Algorithms Research인용 수 0

한 줄 요약

본 논문은 surrogate의 과신을 억제하기 위해 Bayesian optimization에서 tempered (alpha- tempered) posterior updates를 도입하고, generalized improvement 취득에 대한 tempered GP surrogate의 regret bound를 도출하며, online alpha-tuning 스킴을 제안한다.

ABSTRACT

Bayesian optimization (BO) iteratively fits a Gaussian process (GP) surrogate to accumulated evaluations and selects new queries via an acquisition function such as expected improvement (EI). In practice, BO often concentrates evaluations near the current incumbent, causing the surrogate to become overconfident and to understate predictive uncertainty in the region guiding subsequent decisions. We develop a robust GP-based BO via tempered posterior updates, which downweight the likelihood by a power $α\in (0,1]$ to mitigate overconfidence under local misspecification. We establish cumulative regret bounds for tempered BO under a family of generalized improvement rules, including EI, and show that tempering yields strictly sharper worst-case regret guarantees than the standard posterior $(α=1)$, with the most favorable guarantees occurring near the classical EI choice. Motivated by our theoretic findings, we propose a prequential procedure for selecting $α$ online: it decreases $α$ when realized prediction errors exceed model-implied uncertainty and returns $α$ toward one as calibration improves. Empirical results demonstrate that tempering provides a practical yet theoretically grounded tool for stabilizing BO surrogates under localized sampling.

연구 동기 및 목표

• BO surrogate의 로컬 오인설정(local misspecification) 및 과신(overconfidence)에 대한 견고성 강화 동기 부여.
• BO 내에서 likelihood tempering을 Bayesian 선형 및 GP surrogate에 내재화하여 업데이트를 안정화.
• tempered GP surrogate에서 일반화된 개선 규칙(EI 포함)에 대한 누적 regret bound 도출.
• BO에서 tempering 파라미터 alpha를 온라인으로 선택하는 튜닝 친화적 절차 제안.
• 벤치마크 함수에 대한 실험을 통해 tempering의 실용적 성능 이점 시연.

제안 방법

• likelihood를 0<alpha<=1의 거듭제곱으로 올려 tempered posterior 업데이트를 형식화한다.
• tempered posterior 업데이트를 갖는 GP surrogate를 개발하고 alpha에 대해 예측 평균 및 분산(mu_{t,alpha}, sigma_{t,alpha})를 도출한다.
• tempered GP posterior에서 generalized EI (g-EI) 취득의 닫힌 형식을 계산하고 (rescaling nu_t 및 tau_g(v) 함수 포함) 도출한다.
• gamma 항 및 행렬식 증가 한계를 명시적으로 포함하는 alpha 및 g에 의존하는 tempered BO의 누적 regret bound를 확립한다.
• calibration 및 실현 예측 오차에 기반해 온라인으로 alpha를 조정하기 위한 prequential, tuning-light 스케줄 제안.
• 표준 alpha=1 이론과의 분석적 비교를 제공하여 tempered posterior가 비모수 GP 설정에서 더 예리한 최악의 경우 보장을 제공할 수 있음을 보인다.

실험 결과

연구 질문

• RQ1 BO에서 likelihood를 tempering하는 것이 surrogate의 로컬 오인설정에 대한 견고성을 향상시키는가?
• RQ2 과 tempered posterior가 PI, EI와 같은 generalized improvement 취득과 어떤 상호작용을 보이며 regret에 어떤 영향을 미치는가?
• RQ3 alpha와 g에 의존하는 tempered GP 기반 BO에 대한 명시적 regret bound를 도출할 수 있으며, 이는 표준 posterior와 어떻게 비교되는가?
• RQ4 heavy tuning 없이 BO 중에 alpha를 실용적으로 온라인으로 적응시킬 방법이 있는가?
• RQ5 tempering 전략이 벤치마크 BO 문제에서 실험적 성능 향상을 제공하는가?

주요 결과

• alpha in (0,1]로 surrogate을 tempering하면 지역 오인설정을 낮게 평가하고 BO에서 과신 포스트럴을 방지할 수 있다.
• tempered GP의 경우 g-EI 취득에 대한 닫힌 형식 표현이 도출되어 tempered BO 알고리즘의 분석이 가능하다.
• regret bound는 고정된 g에 대해 tempering이 표준 alpha=1보다 더 선명한 최악의 경우 보장을 제공하며 EI 설정 근처에서 가장 큰 이득을 보인다.
• 선형 surrogate 기준선에서 tempered 업데이트는 올바르게 정의될 경우-leading EI regret를 개선하지 않으며, 주로 비선형 GP 구간에서 tempering의 가치가 크다는 것을 강조한다.
• alpha를 online으로 적응시키기 위한 prequential 온라인 스케줄을 제안하여 예측 오차가 모델 불확실성을 초과할 때 alpha를 감소시키고 보정이 개선되면 1로 복귀한다.
• 경험적 결과는 tempering이 BO surrogate를 안정화하고 로컬 샘플링 하에서의 견고성을 개선함을 나타낸다.