[논문 리뷰] Bayesian Optimization with Unknown Search Space

Huong Ha, Santu Rana외 4명|arXiv (Cornell University)|2019. 10. 29.

Advanced Bandit Algorithms Research인용 수 25

한 줄 요약

이 논문은 알려지지 않은 검색 공간을 위한 파라미터가 없는 베이지안 최적화 방법을 제안하며, 유한한 반복 횟수 내에 $ε$-정확도를 보장하도록 동적으로 검색 영역을 확장한다. 최소한의 적응적 확장을 이끄는 GP-UCB 획득 함수를 사용함으로써, 벤치마크 함수와 기계 학습 하이퍼파rameter 튜닝에서 최신 기술보다 평가 횟수가 적게 이루어져도 뛰어난 성능을 달성한다.

ABSTRACT

Applying Bayesian optimization in problems wherein the search space is unknown is challenging. To address this problem, we propose a systematic volume expansion strategy for the Bayesian optimization. We devise a strategy to guarantee that in iterative expansions of the search space, our method can find a point whose function value within epsilon of the objective function maximum. Without the need to specify any parameters, our algorithm automatically triggers a minimal expansion required iteratively. We derive analytic expressions for when to trigger the expansion and by how much to expand. We also provide theoretical analysis to show that our method achieves epsilon-accuracy after a finite number of iterations. We demonstrate our method on both benchmark test functions and machine learning hyper-parameter tuning tasks and demonstrate that our method outperforms baselines.

연구 동기 및 목표

• 검색 공간이 알려져 있지 않고 사전 경계가 제공되지 않을 때 베이지안 최적화의 과제를 해결하기 위해.
• 확장 빈도, 성장률, 정규화 상수와 같은 사용자 지정 파라미터가 필요 없도록 하기 위해.
• 유한한 반복 횟수 이내에 $ε$-정확도를 달성하도록 보장하기 위해 — 즉, 전역 최적값으로부터 $ε$ 이내의 점을 찾는 것.
• 필요할 때만 확장을 촉발하고 최소한으로 확장하여 효율성을 유지하는 체계적인 전략을 개발하기 위해.
• 각 검색 영역에서 국소 $ε$-정확도를 보장함으로써, 반복적인 정밀 조정을 통해 궁극적으로 전역 $ε$-정확도를 확보하기 위해.

제안 방법

• 이 방법은 $ε$-정확도 기준을 기반으로, 함수 최대값으로부터 $ε$ 이내에 위치할 수 있는 영역을 추정하기 위해 GP-UCB 획득 함수를 사전 모델로 사용한다.
• 현재 획득 함수의 최대값과 $ε$-정확도 기준을 바탕으로, 확장의 시기와 범위를 결정하기 위한 해석적 표현을 유도한다.
• 현재 검색 공간에 목표 최대값으로부터 $ε$ 이내의 함수 값을 가진 점이 포함되어 있을 때만 확장을 촉발함으로써 국소 $ε$-정확도를 보장한다.
• 알고리즘은 최소한의 확장을 통해 현재 추정된 최적 영역을 포함하도록 검색 공간을 동적으로 조정함으로써, 경계 근처에서 불필요한 평가를 방지한다.
• 각 확장 후, 새로운 영역에서 $ε$-정확도 보장을 유지하기 위해 획득 함수를 재정의한다.
• 이 방법은 완전히 자동화되어 있으며, 확장이나 정규화에 대한 사용자 정의 파라미터가 전혀 필요하지 않다.

실험 결과

연구 질문

• RQ1 모르는 검색 공간에서 목표 함수에 대한 사전 지식이나 사용자 지정 파라미터가 없이도 베이지안 최적화가 $ε$-정확도를 달성할 수 있는가?
• RQ2 알고리즘이 평가 횟수를 최소화하면서 수렴을 보장하기 위해 검색 공간 확장의 최적 시기와 범위를 어떻게 결정할 수 있는가?
• RQ3 각 확장 영역에서 국소 $ε$-정확도가 유지될 조건은 무엇이며, 이로 인해 유한한 반복 횟수 이내에 전역 $ε$-정확도를 확보할 수 있는가?
• RQ4 체적 두배, 정규화, 필터링과 같은 기존 방법들과 비교할 때, 제안된 방법은 수렴성과 샘플 효율성 측면에서 어떻게 다른가?
• RQ5 이 방법은 실제 하이퍼파rameter 튜닝에서 알려지지 않은 복잡한 목표 함수에 적응하면서도 이론적 보장을 유지할 수 있는가?

주요 결과

• 제안된 GPUCB-UBO 방법은 엘라스틱 넷에 대한 하이퍼파rameter 튜닝에서 모든 베이스라인보다 뛰어나며, 더 적은 평가 횟수로 MNIST에서 더 높은 예측 정확도를 달성한다.
• 다층 퍼셉트론 모델의 경우, GPUCB-UBO는 단 12회의 반복만으로 97.8%의 예측 정확도에 도달했으며, 다른 방법들은 동일한 수준에 도달하기 위해 24회 이상의 반복이 필요했다.
• 컨볼루션 신경망 튜닝에서는 GPUCB-UBO가 30회의 반복 후 98.7%의 정확도를 달성했으며, 모든 경쟁 방법보다 뚜렷이 뛰어난 성능을 보였다.
• 다섯 개의 합성 벤치마크 함수에서 이 방법은 최신 기술 대비 더 적은 샘플로 더 나은 함수 값을 지속적으로 찾는 데 성공했다.
• 이론적 분석을 통해 이 방법이 유한한 반복 횟수 내에 $ε$-정확도를 달성함을 확인했으며, 확장이나 정규화에 사용자 정의 파라미터가 전혀 필요하지 않다.
• 알고리즘의 자동적이고 최소한의 확장 전략은 검색 공간 경계 근처의 낭비된 평가를 줄여 샘플 효율성을 향상시켰다.