[논문 리뷰] Bayesian optimization under mixed constraints with a slack-variable augmented Lagrangian

Victor Picheny, Robert B. Gramacy외 2명|arXiv (Cornell University)|2016. 05. 31.

Advanced Multi-Objective Optimization Algorithms참고 문헌 20인용 수 50

한 줄 요약

이 논문은 혼합 등식 및 부등식 제약 조건 하에서 베이지안 최적화를 위한 새로운 슬랙 변수를 통한 보완 라그랑주 프레임워크(ALBO)를 제안하며, 몬테카를로 샘플링 대신 수치적 적분을 통해 효율적인 기대 향상(EI) 계산을 가능하게 한다. 이 방법은 이전의 AL 기반 BO 및 전통적인 제약 조건 최적화 방법에 비해 전역 수렴성을 향상시키고 블랙박스 평가 횟수를 줄인다.

ABSTRACT

An augmented Lagrangian (AL) can convert a constrained optimization problem into a sequence of simpler (e.g., unconstrained) problems, which are then usually solved with local solvers. Recently, surrogate-based Bayesian optimization (BO) sub-solvers have been successfully deployed in the AL framework for a more global search in the presence of inequality constraints; however, a drawback was that expected improvement (EI) evaluations relied on Monte Carlo. Here we introduce an alternative slack variable AL, and show that in this formulation the EI may be evaluated with library routines. The slack variables furthermore facilitate equality as well as inequality constraints, and mixtures thereof. We show how our new slack "ALBO" compares favorably to the original. Its superiority over conventional alternatives is reinforced on several mixed constraint examples.

연구 동기 및 목표

• 블랙박스 최적화에서 혼합 등식 및 부등식 제약 조건을 원천적으로 처리할 수 있는 베이지안 최적화 방법의 부족을 해결하기 위해.
• 이전의 보완 라그랑주(PL) 접근법에서 제약 조건 최적화를 위한 몬테카를로 기반 기대 향상(EI) 평가의 계산 비효율성을 극복하기 위해.
• EI 계산을 위한 효율적이고 라이브러리 기반의 수치적 적분을 가능하게 하는 제약 조건을 통합한 공식을 개발하기 위해.
• 이전에 다루기 어려웠던 등식 제약 조건을 포함한 혼합 제약 조건을 갖는 문제에 대해 AL 기반 BO의 적용 범위를 확장하기 위해.
• 수렴 속도와 해의 품질 측면에서 기존 대안들에 비해 제안된 ALBO 방법의 우수성을 실증적으로 검증하기 위해.

제안 방법

• 부등식 제약 조건을 슬랙 변수를 사용해 등식 제약 조건으로 재구성함으로써 혼합 제약 조건을 통일적으로 다룰 수 있도록 한다.
• 보완 라그랑주(PL) 프레임워크를 활용해 제약 조건이 있는 문제를 순차적인 무제약 하위문제로 변환하고, 이를 베이지안 최적화로 해결한다.
• 몬테카를로 기반 기대 향상(EI) 평가를 Davies 알고리즘을 사용한 수치적 적분으로 대체함으로써 더 빠르고 정확한 EI 계산을 가능하게 한다.
• 목적 함수 및 제약 조건 함수를 모델링하기 위해 가우시안 프로세스(GP) 서rogate를 사용하고, EI 수집 함수를 슬랙 변수 기반 PL 공식에 맞게 조정한다.
• ALBO 프레임워크를 반복적으로 적용하여 라그랑주 승수와 페널티 파라미터를 업데이트함으로써 후속 BO 하위문제에서 제약 조건 이행을 강제한다.
• 다중 후보 점을 통해 누적 비중앙 카이제곱 분포에 대한 Davies 루틴을 벡터화하여 EI 계산 속도를 향상시킨다.

실험 결과

연구 질문

• RQ1 보완 라그랑주에 대한 슬랙 변수 재구성은 혼합 제약 조건 하에서 기대 향상(EI) 계산을 효율적이고 정확하게 가능하게 할 수 있는가?
• RQ2 제안된 ALBO 방법은 원래의 AL 기반 BO 및 전통적인 제약 조건 최적화 방법에 비해 수렴 속도와 해의 품질 측면에서 어떻게 비교되는가?
• RQ3 ALBO 프레임워크는 특히 이중 부등식 제약 조건으로 재구성된 등식 제약 조건과 비교할 때 등식 제약 조건을 얼마나 효과적으로 다룰 수 있는가?
• RQ4 몬테카를로 샘플링 대신 수치적 적분을 사용함으로써 제약 조건 최적화를 위한 EI 평가에서 계산 효율성이 상당히 향상되는가?
• RQ5 ALBO는 비가능 영역이나 불량한 조건의 제약 영역에 대해 얼마나 강인한가? 제약 조건 충족 조건 위반 상황에서도 성능을 유지하는가?

주요 결과

• ALBO 방법은 몬테카를로 샘플링과 같은 계산 비용이 큰 과정이 필요 없이 정확하고 빠르며 벡터화된 수치적 적분을 통해 기대 향상(EI) 평가를 정확하게 수행할 수 있다.
• 특히 혼합 등식 및 부등식 제약 조건을 포함한 문제에서 원래의 AL 기반 BO 방법에 비해 향상된 수렴 성능를 달성한다.
• LSQ, GSBP, LAH 등의 벤치마크 문제에서 기존의 전통적 방법들보다 최적 해에 도달하기 위해 더 적은 블랙박스 평가 횟수를 요구하였다.
• 제약 조건 충족 조건 위반 또는 가능 영역이 비어 있는 경우에도 안정적인 수렴 행동을 유지하며 강인성을 보였다.
• 실증 결과는 ALBO가 고비용 함수 평가 횟수를 줄이며 더 나은 전역 해를 찾는 데 있어 전통적인 국소 최적화 솔버와 다른 통계적 BO 접근법을 모두 능가한다는 것을 보여주었다.
• 부등식 제약 조건을 등식으로 재구성하기 위해 슬랙 변수를 사용함으로써 혼합 제약 조건을 통합적으로 다룰 수 있었고, 이는 수치적 안정성과 알고리즘의 단순화를 향상시켰다.