[논문 리뷰] Distributionally Ambiguous Optimization Techniques for Batch Bayesian Optimization

Nikitas Rontsis, Michael A. Osborne외 1명|arXiv (Cornell University)|2017. 07. 13.

Advanced Bandit Algorithms Research참고 문헌 8인용 수 3

한 줄 요약

이 논문은 다변량 적분의 비용이 큰 문제를 피하기 위해 분포로 저항하는 최적화를 활용하는 새로운, 계산 가능한 확보 함수를 제안한다. 기댓값 개선의 날카운 대체로, 동일한 모멘트를 가진 분포 집합의 확률 분포 집합 위에서 최악의 기대값을 고려하여, 볼록 최적화를 통해 정확하고 효율적인 계산과 도함수 평가가 가능해지며, 이는 큰 배치 크기에서도 정확하게 작동한다. 이는 이론과 실무에서 기존 방법보다 뛰어난 성능을 보인다.

ABSTRACT

We propose a novel, theoretically-grounded, acquisition function for Batch Bayesian optimization informed by insights from distributionally ambiguous optimization. Our acquisition function is a lower bound on the well-known Expected Improvement function, which requires evaluation of a Gaussian Expectation over a multivariate piecewise affine function. Our bound is computed instead by evaluating the best-case expectation over all probability distributions consistent with the same mean and variance as the original Gaussian distribution. Unlike alternative approaches, including Expected Improvement, our proposed acquisition function avoids multi-dimensional integrations entirely, and can be computed exactly - even on large batch sizes - as the solution of a tractable convex optimization problem. Our suggested acquisition function can also be optimized efficiently, since first and second derivative information can be calculated inexpensively as by-products of the acquisition function calculation itself. We derive various novel theorems that ground our work theoretically and we demonstrate superior performance via simple motivating examples, benchmark functions and real-world problems.

연구 동기 및 목표

• 다중 단계 사전 예측의 계산 불가능성을 해결하기 위해, 계산 가능하고 이론적으로 타당한 확보 함수를 제안하는 것.
• 기댓값 개선에 포함된 고비용의 다변량 가우시안 적분을, 동일한 모멘트를 가진 분포 집합 위에서의 볼록 최적화 문제로 대체하는 것.
• 베이지안 최적화에서 큰 배치 크기에 대해 정확하고, 미분 가능하며 확장 가능한 확보 함수의 계산을 가능하게 하는 것.
• 비미분 가능성과 수치 적분을 피할 수 있는, 이론적으로 타당한 표준 기댓값 개선의 대안을 제공하는 것.

제안 방법

• 확보 함수는 기댓값 개선의 하한으로 유도되며, 기댓값 개선의 최악의 기대값을 고려하여, 기댓값과 공분산이 같은 기댓값 과정 후행 분포의 모든 분포에 대해 고려한다.
• 이 하한은 일차 및 이차 모멘트 제약 조건을 갖는 분포 집합 위에서 볼록 최적화 문제를 풀어 계산된다.
• 이 방법은 분포로 저항하는 최적화 원리를 활용하여 안정성과 계산의 용이성을 보장한다.
• 확보 함수의 일차 및 이차 도함수는 최적화 과정의 부산물로 효율적으로 계산되며, 기울기 기반 최적화를 가능하게 한다.
• 이 방법은 벡터화 및 대칭화된 벡터화 연산자(vec 및 vec_u)를 사용하여 최적성 조건을 정사각형이고 비특이적인 선형 시스템으로 재구성하여 효율적인 해법을 가능하게 한다.
• 이론적 분석을 통해 확보 함수의 미분 가능성과, 양의 정부호 코네의 유일성과 연속성을 입증한다.

실험 결과

연구 질문

• RQ1 배치 베이지안 최적화에서 고차원 적분을 피할 수 있는, 분포로 저항하는 기댓값 개선의 하한을 어떻게 정의할 수 있는가?
• RQ2 볼록 최적화 기법을 사용하여 이 하한을 정확하고 효율적으로 계산할 수 있는가?
• RQ3 이러한 하한을 기반으로 한 확보 함수는 기울기 기반 최적화를 지원하기 위해 효율적으로 도함수를 계산할 수 있는가?
• RQ4 제안된 방법은 표준 기댓값 개선보다 확장성과 성능을 향상시키면서도 이론적 보장을 유지하는가?
• RQ5 표준 기댓값 개선의 비미분성은 최적화에 어떤 영향을 미치며, 분포로 저항성에 의해 이를 극복할 수 있는가?

주요 결과

• 제안된 확보 함수는 기댓값 개선의 날카운 하한이며, 수치 적분을 피하기 위해 볼록 최적화를 통해 정확하게 계산 가능하다.
• 이 방법은 계산 가능한 볼록 문제의 해로서, 임의의 큰 배치 크기에 대해 정확한 확보 함수 계산을 가능하게 한다.
• 확보 함수의 일차 및 이차 도함수는 최적화 과정의 부산물로 저비용으로 계산되며, 효율적인 기울기 기반 최적화를 가능하게 한다.
• 확보 함수는 양의 정부호 코네에서 미분 가능함이 입증되었으며, 표준 기댓값 개선의 비미분성 문제를 해결한다.
• 이론적 분석을 통해 최적성 조건과 행렬 재구성 기법을 통해 해의 유일성, 연속성, 그리고 미분 가능성의 성립을 입증한다.
• 실험 결과는 벤치마크 함수와 실제 문제에서 뛰어난 성능을 보이며, 이 방법의 효율성과 안정성을 검증한다.