[논문 리뷰] Batch Bayesian Optimization via Local Penalization

Javier González, Zhenwen Dai외 2명|arXiv (Cornell University)|2015. 05. 29.

Gaussian Processes and Bayesian Inference인용 수 218

한 줄 요약

이 논문은 계산 비용이 적은 히우리스틱인 로컬 페널라이제이션을 통한 배치 베이지안 최적화(BBP-LP)를 제안한다. 이 방법은 목표 함수의 추정 리프시츠 상수를 사용하여 배치 내 점들 간의 국소적 반발력을 강제함으로써, 배치 상호작용을 위한 복잡한 공동 모델링을 피한다. 이는 성능이 뛰어난 복잡한 배치 BO 방법들과 유사한 성능을 달성하면서도 최소한의 오버헤드를 유발하며, 벤치마크 함수와 실제 실험에서 순차적 및 다른 배치 방법들보다 수렴 속도와 월클럭 시간 측면에서 뚜렷한 우수성을 보인다.

ABSTRACT

The popularity of Bayesian optimization methods for efficient exploration of parameter spaces has lead to a series of papers applying Gaussian processes as surrogates in the optimization of functions. However, most proposed approaches only allow the exploration of the parameter space to occur sequentially. Often, it is desirable to simultaneously propose batches of parameter values to explore. This is particularly the case when large parallel processing facilities are available. These facilities could be computational or physical facets of the process being optimized. E.g. in biological experiments many experimental set ups allow several samples to be simultaneously processed. Batch methods, however, require modeling of the interaction between the evaluations in the batch, which can be expensive in complex scenarios. We investigate a simple heuristic based on an estimate of the Lipschitz constant that captures the most important aspect of this interaction (i.e. local repulsion) at negligible computational overhead. The resulting algorithm compares well, in running time, with much more elaborate alternatives. The approach assumes that the function of interest, $f$, is a Lipschitz continuous function. A wrap-loop around the acquisition function is used to collect batches of points of certain size minimizing the non-parallelizable computational effort. The speed-up of our method with respect to previous approaches is significant in a set of computationally expensive experiments.

연구 동기 및 목표

• 배치 베이지안 최적화에서 배치 점 간의 상호작용을 모델링하는 데 드는 계산적 비용 문제를 해결하기 위해.
• 비용이 많이 드는 블랙박스 함수의 효율적인 병렬 평가를 가능하게 하기 위해, 중복되거나 군집된 평가를 피하는 배치를 설계하기 위해.
• 최소한의 계산 오버헤드로도 핵심적인 상호작용 효과인 국소적 반발력을 포착하는 히우리스틱을 개발하기 위해.
• 기존의 배치 및 순차적 베이지안 최적화 방법들과 비교해 수렴 속도와 월클럭 효율성을 향상시키기 위해.
• 비용이 많이 드는 함수 평가가 필요한 실제 문제에 적용 가능한 확장 가능한, 할당 함수에 의존하지 않는 방법을 제공하기 위해.

제안 방법

• 이 방법은 목표 함수의 추정 리프시츠 상수를 사용하여 배치 점 간의 국소적 반발력을 반영하는 페널라이제이션된 할당 함수를 도입한다.
• 배치 점 간의 상호작용을 전체 공분산 프로세스(GP) 추론을 통해 모델링하는 대신, 입력 공간에서 너무 가까이 있는 점들이 나타나는 것을 막는 히우리스틱 페널티를 통해 모델링한다.
• 이 페널티는 함수의 L-리프시츠 연속성에서 유도되며, 배치 내에서 가까운 점들이 유사한 함수 값을 갖지 않도록 보장한다.
• 각 점이 추가된 후 GP 사후분포를 재계산하지 않아서, 전체 배치 최적화에 비해 계산 비용을 감소시킨다.
• 모든 할당 함수(Expected Improvement, Upper Confidence Bound 등)과 호환되어 넓은 적용 범위를 가진다.
• 데이터가 없을 경우 초기 배치 선택에 라틴 하이퍼큐브 설계를 자연스럽게 제안한다.

실험 결과

연구 질문

• RQ1 리프시츠 연속성에 기반한 단순한 히우리스틱이 전체 공동 모델링 없이도 베이지안 최적화에서 배치 상호작용을 효과적으로 모델링할 수 있는가?
• RQ2 제안된 국소 페널라이제이션 방법은 더 복잡한 배치 베이지안 최적화 방법들에 비해 성능 및 효율성 측면에서 어떻게 비교되는가?
• RQ3 병렬 평가 제약 조건 하에서 순차적 베이지안 최적화와 비교해 이 방법은 수렴 속도와 최종 해 품질을 유지하거나 향상시키는가?
• RQ4 이 방법은 합성 함수와 실제 기계학습 및 실험실 실험을 포함한 다양한 문제 유형에 효율적으로 적용될 수 있는가?
• RQ5 이 방법은 성능을 유지하면서 계산 오버헤드를 얼마나 줄일 수 있는가?

주요 결과

• 코사인 함수에서, BBP-LP(LP-EI 및 LP-UCB)는 10개의 배치 이후 수렴 속도와 월클럭 시간 측면에서 다른 배치 및 순차적 방법들보다 뚜렷한 우수성을 보였다.
• 함수 평가 비용이 더 높은 실험실 실험에서는, LP-UCB가 최고의 성능을 기록하여 높은 평가 비용 조건 하에서도 뛰어난 효율성을 입증했다.
• SVR 하이퍼파라미터 튜닝 과제에서는 모든 배치 방법이 순차 정책을 능가했지만, BBP-LP는 최소한의 오버헤드로도 뛰어난 성능을 유지했다.
• 이 방법은 복잡한 배치 방법들과 유사하거나 더 좋은 결과를 달성하면서도 거의 무시할 수 없는 계산 비용을 유발하여, 대규모 또는 고비용 문제에 매우 효율적이다.
• 리프시츠 기반 페널티의 사용은 국소 반발력을 효과적으로 포착하여, 무작위 또는 페널티 없이 설계된 배치 전략보다 더 나은 탐색을 가능하게 했다.
• 이 방법은 다양한 할당 함수(EI 및 UCB)에 대해 뛰어난 성능을 유지하여 일반성과 확장성의 신뢰성을 입증했다.