[논문 리뷰] Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors

Sébastien Marmin, Clément Chevalier외 1명|arXiv (Cornell University)|2016. 09. 09.

Advanced Multi-Objective Optimization Algorithms참고 문헌 32인용 수 6

한 줄 요약

이 논문은 다점(Expected Improvement, q-EI) 기준에 대한 폐쇄형 해석적 해를 제안하며, 절단된 가우시안 벡터의 모멘트를 활용한다. q-EI의 기울기를 폐쇄형으로 유도하고 효율적인 수치 근사화를 가능하게 함으로써, 몬테카를로 방법에 비해 계산을 1~2개 정도의 주기 감소시킬 수 있는 도구 기반 최적화를 가능하게 한다.

ABSTRACT

We deal with the efficient parallelization of Bayesian global optimization algorithms, and more specifically of those based on the expected improvement criterion and its variants. A closed form formula relying on multivariate Gaussian cumulative distribution functions is established for a generalized version of the multipoint expected improvement criterion. In turn, the latter relies on intermediate results that could be of independent interest concerning moments of truncated Gaussian vectors. The obtained expansion of the criterion enables studying its differentiability with respect to point batches and calculating the corresponding gradient in closed form. Furthermore , we derive fast numerical approximations of this gradient and propose efficient batch optimization strategies. Numerical experiments illustrate that the proposed approaches enable computational savings of between one and two order of magnitudes, hence enabling derivative-based batch-sequential acquisition function maximization to become a practically implementable and efficient standard.

연구 동기 및 목표

• 다점(Expected Improvement, q-EI) 기준에 대한 폐쇄형 표현을 유도하여 효율적인 병렬 베이지안 최적화를 가능하게 한다.
• q-EI가 배치 후보 점에 대해 미분 가능함을 이론적으로 확립한다.
• 실용적인 최적화를 위해 q-EI 기울기의 빠르고 정확한 수치 근사화를 개발한다.
• q-EI의 몬테카를로 샘플링으로 인한 계산 병목 현상을 해결한다.

제안 방법

• 다변량 가우시안 누적분포함수와 절단된 가우시안 벡터의 모멘트를 사용하여 q-EI에 대한 폐쇄형 표현을 유도한다.
• 후보 점의 배치에 대해 q-EI의 새로운 분석적 기울기를 도입하여 도구 기반 최적화를 가능하게 한다.
• 절단된 다변량 정규분포의 CDF 도함수를 계산하기 위해 플래켓의 미분방정식을 적용한다.
• 효율적인 절단된 가우시안 모멘트 평가를 통해 기울기의 빠른 수치 근사화를 제안한다.
• 대칭성과 구조적 분해를 활용하여 기울기 계산의 계산 복잡도를 감소시킨다.
• 조건부 가우시안 과정과 선형 변환을 사용하여 후보점과 관측점의 결합 분포를 모델링한다.

실험 결과

연구 질문

• RQ1 다점(Expected Improvement) 기준은 몬테카를로 샘플링에 의존하지 않고 폐쇄형으로 표현될 수 있는가?
• RQ2 q-EI 기준은 후보 점의 배치에 대해 미분 가능하며, 그 기울기는 분석적으로 계산될 수 있는가?
• RQ3 정확하고 계산적으로 확장 가능한 q-EI 기울기의 효율적인 수치 근사화를 도출할 수 있는가?
• RQ4 도구 기반 최적화가 몬테카를로 기반 접근법에 비해 계산 효율성 측면에서 얼마나 뛰어나게 되는가?
• RQ5 유도된 분석적 표현과 근사화는 배치-순차 베이지안 최적화의 확장성에 어떻게 기여하는가?

주요 결과

• 논문은 다변량 가우시안 CDF와 절단된 가우시안 벡터의 모멘트를 사용하여 q-EI 기준에 대한 폐쇄형 표현을 도출한다.
• q-EI 기준이 배치 입력 점에 대해 미분 가능하며, 그 기울기가 폐쇄형으로 계산됨을 보여준다.
• 정확하고 몬테카를로 방법보다 훨씬 빠른 수치 근사화된 기울기가 개발된다.
• 수치 실험에서 계산 시간을 1~2개 주기 감소시키는 성과를 달성하여 도구 기반 배치 최적화의 실현 가능성을 높인다.
• 제안된 방법은 효율적이고 확장 가능하며 결정적인 최적화를 가능하게 하여, 배치-순차 베이지안 최적화에서의 획득 함수 최적화를 개선한다.