[논문 리뷰] Framework and Benchmarks for Combinatorial and Mixed-variable Bayesian Optimization

Kamil Dreczkowski, Antoine Grosnit외 1명|arXiv (Cornell University)|2023. 06. 16.

Advanced Multi-Objective Optimization Algorithms인용 수 6

한 줄 요약

이 논문은 혼합 변수 및 조합 최적화를 위한 모듈러한 프레임워크를 소개하며, 대체 가능한 구성 요소로 서면 모델, 획득 함수, 획득 최적화 방법을 분리하여 체계적인 벤치마크를 가능하게 한다. 저자들은 47개의 새로운 MCBO 알고리즘을 구현하고, 4,000개 이상의 실험을 통해 신뢰 영역 최적화와 잘 맞는 모델을 조합한 것이 기존 방법을 능가함을 입증하며, 모델 적합도와 신뢰 영역 사용의 중요성을 강조한다.

ABSTRACT

This paper introduces a modular framework for Mixed-variable and Combinatorial Bayesian Optimization (MCBO) to address the lack of systematic benchmarking and standardized evaluation in the field. Current MCBO papers often introduce non-diverse or non-standard benchmarks to evaluate their methods, impeding the proper assessment of different MCBO primitives and their combinations. Additionally, papers introducing a solution for a single MCBO primitive often omit benchmarking against baselines that utilize the same methods for the remaining primitives. This omission is primarily due to the significant implementation overhead involved, resulting in a lack of controlled assessments and an inability to showcase the merits of a contribution effectively. To overcome these challenges, our proposed framework enables an effortless combination of Bayesian Optimization components, and provides a diverse set of synthetic and real-world benchmarking tasks. Leveraging this flexibility, we implement 47 novel MCBO algorithms and benchmark them against seven existing MCBO solvers and five standard black-box optimization algorithms on ten tasks, conducting over 4000 experiments. Our findings reveal a superior combination of MCBO primitives outperforming existing approaches and illustrate the significance of model fit and the use of a trust region. We make our MCBO library available under the MIT license at \url{https://github.com/huawei-noah/HEBO/tree/master/MCBO}.

연구 동기 및 목표

• MCBO 연구에서 표준화되고 다양한 종류의 벤치마크가 부족한 문제를 해결하여 신규 방법 간의 공정한 비교를 가능하게 하기 위해.
• MCBO 구성 요소를 조합할 때의 구현 오버헤드를 줄여 신속한 프로토타이핑 및 새로운 알고리즘 조합의 평가를 가능하게 하기 위해.
• 10개의 작업에서 12개의 베이스라인과 대비하여 47개의 새로운 알고리즘을 체계적으로 평가함으로써 MCBO 원소에 대한 종합적인 경험적 연구를 수행하기 위해.
• 혼합 변수 및 조합 최적화에 가장 효과적인 서면 모델, 획득 함수, 획득 최적화 방법의 조합을 규명하기 위해.
• 재현성과 향후 연구를 가속화하기 위해 완전히 오픈소스이자 MIT 라이선스를 적용한 MCBO 라이브러리를 공개하기 위해.

제안 방법

• 프레임워크는 서면 모델, 획득 함수, 획득 최적화 방법의 세 가지 핵심 구성 요소로 MCBO를 모듈화하여 단일 라인 코드 인터페이스를 통해 어떤 조합도 가능하게 한다.
• 여러 서면 모델을 지원하며, 다양한 커널(예: SSK, HED, Diff.)을 갖춘 가우시안 프로세스, 선형 회귀, 모델에 종속되지 않는 접근 방식을 포함한다.
• 획득 최적화 방법으로는 신뢰 영역 제약이 있는 방법들인 하이프 클리밍, 경량 하강법, 시뮬레이티드 어닐링, 유전 알고리즘, MAB 기반 전략 등이 포함된다.
• 프레임워크는 신뢰 영역 최적화를 네이티브로 지원하며, 성공/실패 이력에 기반해 조합 변수 및 연속 변수에 대해 동적으로 반경을 조정한다.
• Kriging Believer 전략을 사용하여 배치 획득 샘플링을 가능하게 하여 이전 평가를 환상적으로 재현함으로써 순차적 배치 선택을 향상시킨다.
• 시스템은 입력 정규화, 출력 표준화, 기각 샘플링을 통한 입력 제약 지원을 포함하여 강건성과 실세계 적용 가능성을 향상시킨다.

실험 결과

연구 질문

• RQ1 혼합 변수 및 조합 베이지안 최적화에서 서면 모델, 획득 함수, 획득 최적화 방법의 어떤 조합이 가장 높은 성능을 낼 수 있는가?
• RQ2 신뢰 영역 기반 획득 최적화는 수렴 속도와 해 품질 측면에서 비제약 또는 비적응형 최적화 전략에 비해 어떻게 비교되는가?
• RQ3 커널 선택과 서면 모델의 품질로 측정된 모델 적합도는 전체 최적화 성능에 얼마나 큰 영향을 미치는가?
• RQ4 다양한 합성 및 실세계 벤치마크에서 다양한 획득 함수 최적화 방법(예: 경량 하강법 대비 유전 알고리즘)의 성능은 어떻게 다른가?
• RQ5 표준화되고 모듈러한 프레임워크는 구현 오버헤드를 크게 줄여주며 체계적이고 재현 가능한 MCBO 연구를 가능하게 할 수 있는가?

주요 결과

• 가우시안 프로세스에 문자열 부분순서 커널(SSK)을 적용하고 신뢰 영역 제약이 있는 경량 하강법을 사용한 조합이 벤치마크 세트에서 모든 다른 구성보다 뛰어난 성능을 보였다.
• 신뢰 영역의 사용은 특히 고차원 및 비연속적인 검색 공간에서 수렴 속도와 강건성을 크게 향상시켰다.
• 모델 적합도는 성능에 결정적인 영향을 미쳤다: 목표 함수의 구조를 더 잘 포착하는 커널을 사용할수록 수렴 속도가 빨라지고 해의 품질이 향상되었다.
• 프레임워크를 통해 47개의 새로운 MCBO 알고리즘을 구현하고 평가할 수 있었으며, 구성 요소의 체계적 조합의 가능성과 가치를 입증하였다.
• 제안된 프레임워크는 알고리즘 조합을 위한 구현 오버헤드를 단 한 줄의 코드로 줄여 신속한 프로토타이핑과 재현 가능성을 가능하게 하였다.
• MIT 라이선스를 적용한 오픈소스 MCBO 라이브러리는 향후 연구 및 산업 응용을 위한 재사용 가능한 기반을 제공한다.