[논문 리뷰] Uncertainty aware Search Framework for Multi-Objective Bayesian Optimization with Constraints

Syrine Belakaria, Aryan Deshwal외 1명|arXiv (Cornell University)|2020. 08. 16.

Advanced Multi-Objective Optimization Algorithms참고 문헌 19인용 수 9

한 줄 요약

이 논문은 제약 조건이 있는 다목적 베이지안 최적화를 위한 새로운 불확실성 인식 검색 프레임워크인 USeMOC를 제안한다. 이는 두 단계의 선택 과정을 통해 비용이 많이 드는 함수 평가를 줄인다: 먼저 저비용의 대체 모델 기반 제약 조건이 있는 다목적 최적화를 통해 유망한 후보를 식별하고, 그 후 불확실성 기반으로 최고의 후보를 선택한다. USeMOC는 시뮬레이션 횟수를 90% 이상 감소시켜 기존 방법 대비 90.7%에서 93.3%까지 절감하면서, 아날로그 회로 설계에서 더 우수한 파레토 최적 해를 발견한다.

ABSTRACT

We consider the problem of constrained multi-objective (MO) blackbox optimization using expensive function evaluations, where the goal is to approximate the true Pareto set of solutions satisfying a set of constraints while minimizing the number of function evaluations. We propose a novel framework named Uncertainty-aware Search framework for Multi-Objective Optimization with Constraints (USeMOC) to efficiently select the sequence of inputs for evaluation to solve this problem. The selection method of USeMOC consists of solving a cheap constrained MO optimization problem via surrogate models of the true functions to identify the most promising candidates and picking the best candidate based on a measure of uncertainty. We applied this framework to optimize the design of a multi-output switched-capacitor voltage regulator via expensive simulations. Our experimental results show that USeMOC is able to achieve more than 90 % reduction in the number of simulations needed to uncover optimized circuits.

연구 동기 및 목표

• 목적이 상충되고 평가가 비용이 많이 드는 비용이 많이 드는 제약 조건이 있는 다목적 블랙박스 최적화 문제를 해결하기 위해.
• 두 단계의 검색 프레임워크에 불확실성 인식 선택을 통합함으로써 베이지안 최적화의 불확실성 관리 성능을 향상시키기 위해.
• 제약 조건 하에서 진정한 파레토 집합을 근사하기 위해 필요한 고비용 함수 평가 횟수를 줄이기 위해.
• 실제 아날로그 회로 설계 문제에서 PESMOC, NSGA-II, MOEAD와 같은 기존 방법들보다 해의 질과 평가 효율성 측면에서 뛰어나게 하기 위해.

제안 방법

• USeMOC는 두 단계의 검색을 수행한다: 첫 번째로 진짜 目적 함수를 대체하는 획득 함수를 사용하여 저비용의 제약 조건이 있는 다목적 최적화 문제를 해결한다.
• 모르는 목적 함수 및 제약 조건 함수를 표현하기 위해 가우시안 프로세스(GP) 모델을 사용하며, 불확실성 추정을 위해 평균 μ(x)와 표준편차 σ(x)를 사용한다.
• 사용된 획득 함수는 기대 개선도(Expected Improvement, EI)와 하한 신뢰구간(Lower Confidence Bound, LCB)이며, 각각 EI(x) = σ(x)(αΦ(α) + φ(α)) 및 LCB(x) = μ(x) − β¹ᐟ²σ(x)로 정의된다.
• 탐색과 이용의 균형을 이루기 위해 불확실성 측도를 기반으로 대체 다목적 문제의 해 집합에서 유망한 후보를 선별한다.
• 이 프레임워크는 32개의 입력 변수와 효율성, 출력 전압, 리플 등 총 9개의 목적 함수를 포함한 다중 출력 스위치 커패시터 전압 조절기의 최적화에 적용된다.
• 최적화 과정에 화이트박스(C₀) 및 블랙박스(C₁–C₈) 제약 조건을 모두 통합하여 타당한 해를 보장한다.

실험 결과

연구 질문

• RQ1 두 단계의 불확실성 인식 검색 프레임워크는 제약 조건이 있는 다목적 베이지안 최적화의 효율성을 향상시킬 수 있는가?
• RQ2 USeMOC는 PESMOC 및 MOEAD와 같은 최첨단 방법들과 비교해 수렴 속도와 해의 질 측면에서 어떻게 성능을 내는가?
• RQ3 USeMOC는 시뮬레이션 횟수를 얼마나 줄일 수 있으며, 이로 인해 파레토 프론트 정확도를 유지하거나 향상시킬 수 있는가?
• RQ4 불확실성 기반 선택 통합은 제약 조건이 있는 다목적 최적화에서 탐색 성능을 향상시키는가?

주요 결과

• EI 및 LCB 획득 함수를 모두 사용한 USeMOC는 모든 기준선 대비 히퍼볼륨 지표에서 뚜렷한 우월성을 보이며, 더 적은 수의 시뮬레이션으로 더 나은 파레토 프론트 근사치를 달성한다.
• USeMOC는 MOEAD(가장 우수한 기준선) 대비 90.7%의 시뮬레이션 절감을 달성하여, 유사하거나 더 우수한 해 품질에 도달하기 위해 90% 이상의 시뮬레이션 횟수를 줄였다.
• USeMOC-EI를 사용한 최적화 회로는 76.2%의 효율성을 달성했으며, 이는 MOEAD 최적화 설계보다 5.25% 높은 성능이다. 동시에 요구 조건인 출력 전압과 리플 제약 조건을 유지했다.
• MOEAD 및 USeMOC-EI 설계 모두 100mV 이내의 리플 요구 조건을 충족했으며, 다양한 하중 조건에서 목표 출력 전압(1/3배 비율: 0.52V–0.61V, 2/3배 비율: 1.07V–1.12V)을 정확하게 생성했다.
• 이 프레임워크는 화이트박스 제약(C₀)과 블랙박스 제약(C₁–C₈)을 포함한 혼합 제약 유형을 성공적으로 처리했으며, 실제 아날로그 회로 설계에서의 강건성을 입증했다.