[논문 리뷰] New Paradigms for Exploiting Parallel Experiments in Bayesian Optimization

Leonardo D. González, Ví­ctor M. Zavala|arXiv (Cornell University)|2022. 10. 03.

Advanced Multi-Objective Optimization Algorithms참고 문헌 30인용 수 5

한 줄 요약

이 논문은 성능 함수의 구조적 특성을 활용하여 효율적이고 재현되지 않는 고속 실험을 가능하게 하는 두 가지 새로운 병렬 베이지안 최적화 파라다임—레벨셋 분할과 변수 분할—을 제안한다. 기준 모델을 활용해 설계 공간을 분할함으로써, 최신의 병렬 BO 방법에 비해 검색 시간을 크게 단축하고 전역 수렴성을 향상시킨다.

ABSTRACT

Bayesian optimization (BO) is one of the most effective methods for closed-loop experimental design and black-box optimization. However, a key limitation of BO is that it is an inherently sequential algorithm (one experiment is proposed per round) and thus cannot directly exploit high-throughput (parallel) experiments. Diverse modifications to the BO framework have been proposed in the literature to enable exploitation of parallel experiments but such approaches are limited in the degree of parallelization that they can achieve and can lead to redundant experiments (thus wasting resources and potentially compromising performance). In this work, we present new parallel BO paradigms that exploit the structure of the system to partition the design space. Specifically, we propose an approach that partitions the design space by following the level sets of the performance function and an approach that exploits partially-separable structures of the performance function found. We conduct extensive numerical experiments using a reactor case study to benchmark the effectiveness of these approaches against a variety of state-of-the-art parallel algorithms reported in the literature. Our computational results show that our approaches significantly reduce the required search time and increase the probability of finding a global (rather than local) solution.

연구 동기 및 목표

• 베이지안 최적화(BO)가 본질적으로 순차적이라는 한계를 해결하여 고속 실험(HTE) 플랫폼을 효과적으로 활용할 수 있도록 하는 것.
• 기존 병렬 BO 방법의 단점인 제한된 병렬화와 자원 낭비 및 局부 최적해 위험을 초래하는 중복 실험을 극복하는 것.
• 성능 함수의 레벨셋과 부분적으로 분리 가능한 구조와 같은 시스템의 구조적 특성을 활용하여 효율적인 설계 공간 분할을 이끌어내는 새로운 파라다임을 개발하는 것.
• 반응기 사례 연구를 통해 제안된 방법을 순차적 BO 및 최신 병렬 BO 알고리즘과 비교하여 성능 향상을 검증하는 것.

제안 방법

• 성능 함수의 레벨셋을 기준 모델(예: 저해상도 또는 물리기반 모델)을 사용해 근사함으로써 설계 공간을 분할하는 레벨셋 분할을 제안한다.
• 성능 함수 내에서 부분적으로 분리 가능한 구조를 식별하고 활용함으로써 변수 분할을 구현한다. 이는 일반적으로 모듈식 서브시스템(예: 화학 공정 단위)에서 유래한다.
• 변환된 아레니우스 동역학과 물질 수지식을 기반으로 한 기준 모델을 사용하여 반응 속도와 종 농도를 온도의 함수로 표현함으로써 평가 속도를 향상시킨다.
• 기준 모델의 성능 함수에 대해 가우시안 프로세스(GP) 서로서프 모델을 구축하여 획득 함수 최적화를 효율적으로 수행한다.
• 획득 함수를 적용하여 병렬로 실험 배치를 선택함으로써, 중복을 방지하고 탐색-이용 균형을 향상시킨다.
• 제약 조건을 통합하고 연속 및 이산 설계 변수를 모두 처리함으로써, 새로운 병렬 프레임워크 내에서 베이지안 최적화의 유연성을 유지한다.

실험 결과

연구 질문

• RQ1 성능 함수의 레벨셋에 기반한 설계 공간 분할이 병렬 베이지안 최적화의 효율성과 수렴성 향상에 기여하는가?
• RQ2 성능 함수의 부분적으로 분리 가능한 구조를 활용할 경우 병렬화 수준 향상과 BO에서의 중복 실험 감소에 어느 정도 기여하는가?
• RQ3 제안된 레벨셋 및 변수 분할 파라다임은 순차적 및 최신 병렬 BO 방법에 비해 검색 시간과 전역 최적해 품질 측면에서 어떻게 비교되는가?
• RQ4 진짜 시스템 행동을 근사하는 기준 모델이 정확도를 희생시키지 않고도 효과적이고 확장 가능한 병렬 실험 선택을 가능하게 하는가?
• RQ5 설계 공간 내의 구조적 분해는 고차원적이고 비凸인 성능 곡면에서의 탐색을 개선하는가?

주요 결과

• 제안된 레벨셋 및 변수 분할 방법은 순차적 및 기존 병렬 BO 알고리즘에 비해 전역 최적해에 수렴하기 위한 반복 횟수를 크게 감소시킨다.
• 이 방법들은 더 빠른 검색 수렴을 달성하며, 반응기 사례 연구의 계산 결과에서 특히 고차원 설계 공간에서 솔루션 도달 시간이 감소함을 보여준다.
• 표준 배치 BO 방법에서 흔히 발생하는 중복 실험 선택 문제를 방지함으로써 국부 최적해에 대한 저항력이 향상됨을 입증한다.
• 진짜 성능 함수가 알려져 있거나 평가가 비용이 많이 드는 상황에서도, 기준 모델을 사용해 레벨셋과 분리 가능한 구조를 근사함으로써 정확하고 효율적인 분할이 가능함을 보여준다.
• 속도와 전역 최적해 탐색 확률 측면에서 최신 병렬 BO 방법을 뛰어넘는 성능을 보인다.
• 변수 분할 방법은 모듈식 시스템 행동을 효과적으로 포착하여 서브시스템 간에 대상 지정된 비중복 실험 선택이 가능하게 하여 확장성과 자원 효율성을 향상시킨다.