[논문 리뷰] mlrMBO: A Modular Framework for Model-Based Optimization of Expensive Black-Box Functions

Bernd Bischl, Jakob Richter외 4명|arXiv (Cornell University)|2017. 03. 09.

Advanced Multi-Objective Optimization Algorithms참고 문헌 9인용 수 134

한 줄 요약

mlrMBO는 혼합 매개변수 공간을 가진 비용이 높은 블랙박스 함수의 모델 기반 최적화를 위한 R 도구상자(Bayesian 최적화)이며, 대리 모델, 채우기 기준, 다중 목적 최적화에 대한 모듈식 구성을 제공합니다. 다양한 벤치마크에서 여러 경쟁자들과 비교하여 최첨단 성능을 보여줍니다.

ABSTRACT

We present mlrMBO, a flexible and comprehensive R toolbox for model-based optimization (MBO), also known as Bayesian optimization, which addresses the problem of expensive black-box optimization by approximating the given objective function through a surrogate regression model. It is designed for both single- and multi-objective optimization with mixed continuous, categorical and conditional parameters. Additional features include multi-point batch proposal, parallelization, visualization, logging and error-handling. mlrMBO is implemented in a modular fashion, such that single components can be easily replaced or adapted by the user for specific use cases, e.g., any regression learner from the mlr toolbox for machine learning can be used, and infill criteria and infill optimizers are easily exchangeable. We empirically demonstrate that mlrMBO provides state-of-the-art performance by comparing it on different benchmark scenarios against a wide range of other optimizers, including DiceOptim, rBayesianOptimization, SPOT, SMAC, Spearmint, and Hyperopt.

연구 동기 및 목표

• 대리 모델로 목적 함수를 근사하여 비용이 높은 블랙박스 최적화를 해결합니다.
• 연속, 범주형, 조건부 매개변수를 혼합한 단일 및 다중 목적 최적화를 지원합니다.
• 모듈식이고 교체 가능한 구성요소(대리모형, 채우기 기준, 최적화 알고리즘)와 병렬화 기능을 제공합니다.
• 합성 및 실제 벤치마크 전반에 걸쳐 최첨단 성능을 입증합니다.

제안 방법

• 평가된 포인트에 대해 대리모형을 맞추고 채우기 기준을 통해 새로운 포인트를 제안하는 순차적 모델 기반 최적화 루프를 채택합니다.
• 수치 데이터에는 크리깅(Kriging), 혼합 데이터에는 랜덤 포레스트와 같은 대리모형을 사용하여 혼합 공간을 가능하게 하고, 불확실성 추정은 네이티브 방법 또는 배깅 기반 방법을 통해 수행합니다.
• EI(EI)와 LCB와 같은 채우기 기준을 사용하여 탐색과 활용의 균형을 맞추고, 노이즈 및 다중 목적 설정에 대한 옵션을 포함합니다.
• 다점 제안(qLCB, kriging believer) 및 병렬 평가 전략을 제공합니다.
• 초기 설계, 대리모형, 채우기 기준, 최적화 알고리즘 및 종료 조건을 손쉽게 끼워 넣거나 교체할 수 있는 모듈식 설계를 제공합니다.

실험 결과

연구 질문

• RQ1 단일 목적 문제에서 mlrMBO가 다른 Bayesian 최적화 도구에 비해 어떤 성능을 보이나요?
• RQ2 mlrMBO가 조건부 매개변수를 포함한 혼합 또는 계층적 매개변수 공간을 효과적으로 처리할 수 있나요?
• RQ3 다점 제안과 다중 목적 전략이 최적화 성능에 미치는 영향은 무엇인가요?
• RQ4 대리모형 선택(Kriging vs. random forests)과 불확실성 추정 방법이 채우기 결정에 어떤 영향을 미치나요?

주요 결과

• mlrMBO는 벤치마크 시나리오에서 여러 다른 최적화 도구에 비해 최첨단 성능을 달성합니다.
• 유연한 대리모형과 누락 값을 보정하는 임퓨테이션을 통해 혼합 매개변수 공간과 조건부 매개변수를 지원합니다.
• 병렬 평가를 가능하게 하는 다수의 채우기 및 다점 제안 전략을 제공합니다.
• 패키지는 다중 목표 최적화 기능을 포함하며 하이퍼파라미터 튜닝 및 ML 파이프라인에 적용 가능성을 보여줍니다.
• 벤치마크는 mlrMBO가 다양한 작업에서 DiceOptim, rBayesianOptimization, SPOT 및 CMA-ES를 자주 능가한다고 나타냅니다.