[논문 리뷰] Constrained Efficient Global Optimization of Expensive Black-box Functions

Wenjie Xu, Yuning Jiang외 2명|arXiv (Cornell University)|2022. 10. 31.

Advanced Bandit Algorithms Research인용 수 11

한 줄 요약

이 논문은 가우시안 프로세스를 사용하여 비용이 많이 드는 블랙박스 함수의 제약 조건이 있는 효율적인 글로벌 최적화를 위한 새로운 알고리즘인 CONFIG을 제안한다. 하위 문제를 최저 신뢰구간(Lower Confidence Bound, LCB) 서rogate를 통해 해결함으로써, Matérn 및 제곱 지수 커널에 대해 누적 회귀와 제약 위반에 하위선형 경계를 달성하며, 최적 해로의 수렴을 보장하면서 동시에 타당성 부족을 자연스럽게 탐지한다.

ABSTRACT

We study the problem of constrained efficient global optimization, where both the objective and constraints are expensive black-box functions that can be learned with Gaussian processes. We propose CONFIG (CONstrained efFIcient Global Optimization), a simple and effective algorithm to solve it. Under certain regularity assumptions, we show that our algorithm enjoys the same cumulative regret bound as that in the unconstrained case and similar cumulative constraint violation upper bounds. For commonly used Matern and Squared Exponential kernels, our bounds are sublinear and allow us to derive a convergence rate to the optimal solution of the original constrained problem. In addition, our method naturally provides a scheme to declare infeasibility when the original black-box optimization problem is infeasible. Numerical experiments on sampled instances from the Gaussian process, artificial numerical problems, and a black-box building controller tuning problem all demonstrate the competitive performance of our algorithm. Compared to the other state-of-the-art methods, our algorithm significantly improves the theoretical guarantees, while achieving competitive empirical performance.

연구 동기 및 목표

• 함수 평가가 비용이 많이 들고 기울기 정보가 제공되지 않는 제약 조건이 있는 비용이 많이 드는 블랙박스 함수 최적화 문제에 도전한다.
• 누적 회귀 또는 제약 위반에 대한 이론적 보장을 갖추지 못하거나 광범위한 매개변수 튜닝이 필요한 기존 방법의 한계를 극복한다.
• 최적 해로의 수렴을 보장하면서 동시에 타당하지 않은 문제를 자연스럽게 탐지할 수 있는 메커니즘을 제공하는 방법을 개발한다.
• 특히 누적 회귀 및 제약 위반 경계 측면에서 최신 기술에 비해 이론적 보장을 향상시킨다.
• 합성 문제와 건물 제어기 튜닝과 같은 실제 응용 분야에서 경쟁적인 경험적 성능을 달성한다.

제안 방법

• 목적 함수와 제약 조건 함수에 대해 가우시안 프로세스 서rogate를 사용하여 제약 최적화 문제를 수식화한다.
• 탐색과 제약 조건 이행 간의 균형을 위해 목적 함수와 제약 조건에 대해 최저 신뢰구간(LCB) 서rogate를 구성한다.
• 각 반복 단계에서 목적 함수의 LCB를 최대화하면서 LCB 기반 제약 조건 이행성을 만족시키는 보조 최적화 문제를 해결한다.
• 이 보조 문제의 해를 다음 쿼리 포인트로 사용하여 누적 회귀와 제약 위반을 최소화한다.
• 정보 수익과 커널 특성(예: Matérn 및 제곱 지수)을 활용하여 누적 회귀 및 제약 위반에 대한 이론적 경계를 유도한다.
• 반복 과정에서 보조 문제의 타당성 여부를 모니터링하여 자연스러운 타당성 부족 탐지 메커니즘을 통합한다.

실험 결과

연구 질문

• RQ1 비제약 조건이 있는 경우와 유사한 이론적 수렴 보장을 달성할 수 있는 제약 조건이 있는 효율적인 글로벌 최적화 알고리즘을 설계할 수 있는가?
• RQ2 Matérn 및 제곱 지수 커널을 가진 비용이 많이 드는 블랙박스 함수에 대해 누적 회귀와 누적 제약 위반에 하위선형 경계를 도출할 수 있는가?
• RQ3 사전에 타당한 점을 알지 못하는 상황에서 원래 문제의 타당성 부족을 알고리즘이 어떻게 자연스럽게 탐지할 수 있는가?
• RQ4 제안된 방법이 최신 기술 대비 이론적 보장과 경험적 성능 양면에서 뛰어나게 성능을 발휘할 수 있는가?
• RQ5 함수 평가가 비용이 많이 들고 제약 조건이 중요한 실세계 응용 분야, 예를 들어 건물 제어기 튜닝에서 알고리즘이 강력한 성능을 유지할 수 있는가?

주요 결과

• 표준 정규성 가정 하에, CONFIG은 제약 조건이 없는 경우와 동일한 하위선형 누적 회귀 경계를 달성하며, 최적 해로의 수렴을 보장한다.
• 누적 제약 위반은 최대 정보 수익에 따라 경계가 정의되며, 이는 회귀 경계와 유사한 스케일링을 보이며, 일반적으로 사용되는 Matérn 및 제곱 지수 커널에 대해 하위선형이다.
• 부드러움 파라미터 ν > d/2 를 만족하는 Matérn 및 제곱 지수 커널의 경우, 경계는 하위선형이 되어 최적 해로의 수렴 속도가 잘 정의된다.
• 보조 문제가 타당하지 않게 되면 CONFIG은 자연스럽게 타당성이 없는 문제임을 탐지하며, 타당한 해가 존재하지 않음을 원칙적으로 선언할 수 있는 방법을 제공한다.
• 수치 실험 결과, CONFIG은 합성 문제와 실세계 건물 제어기 튜닝 과제에서 최신 기술인 CEI 및 SafeOPT와 비교해 성능을 뛰어나게 또는 유사하게 유지한다.
• 건물 제어기 튜닝 문제에서 CONFIG은 15번의 함수 평가 내로 최적 해를 식별했으며, 목적 함수 품질 측면에서 보수적인 SafeOPT보다 뛰어난 성능을 보였다.