[논문 리뷰] NUBO: A Transparent Python Package for Bayesian Optimization

Mike Diessner, Kevin J. Wilson외 1명|ArXiv.org|2023. 05. 11.

Advanced Multi-Objective Optimization Algorithms인용 수 4

한 줄 요약

NUBO는 비용이 많이 들고 밝혀지지 않은 함수(예: 물리 실험 및 시뮬레이터)의 효율적이고 샘플 효율적인 최적화를 가능하게 하는 경량이며 투명한 Python 패키지입니다. 이는 가우시안 프로세스 대체 모델과 획득 함수를 통해 작동하며, 유계, 제약, 또는 혼합(이산/연속) 파라미터 공간을 지원하여 순차적, 병렬, 비동기 최적화를 수행합니다. 826줄의 코드로 구현되어 있으며, 6차원 테스트 케이스에서 랜덤 샘플링 및 라틴 하이퍼큐브 샘플링을 능가하는 거의 최적의 성능을 달성합니다.

ABSTRACT

NUBO, short for Newcastle University Bayesian Optimisation, is a Bayesian optimization framework for the optimization of expensive-to-evaluate black-box functions, such as physical experiments and computer simulators. Bayesian optimization is a costefficient optimization strategy that uses surrogate modelling via Gaussian processes to represent an objective function and acquisition functions to guide the selection of candidate points to approximate the global optimum of the objective function. NUBO itself focuses on transparency and user experience to make Bayesian optimization easily accessible to researchers from all disciplines. Clean and understandable code, precise references, and thorough documentation ensure transparency, while user experience is ensured by a modular and flexible design, easy-to-write syntax, and careful selection of Bayesian optimization algorithms. NUBO allows users to tailor Bayesian optimization to their specific problem by writing the optimization loop themselves using the provided building blocks. It supports sequential single-point, parallel multi-point, and asynchronous optimization of bounded, constrained, and/or mixed (discrete and continuous) parameter input spaces. Only algorithms and methods that are extensively tested and validated to perform well are included in NUBO. This ensures that the package remains compact and does not overwhelm the user with an unnecessarily large number of options. The package is written in Python but does not require expert knowledge of Python to optimize your simulators and experiments. NUBO is distributed as open-source software under the BSD 3-Clause license.

연구 동기 및 목표

• 연구자들이 분야를 초월해 베이지안 최적화를 쉽게 접근할 수 있도록 투명성과 사용자 경험을 중시합니다.
• 불필요한 알고리즘의 추가 없이도 최소화되고 잘 문서화되며 모듈식인 베이지안 최적화의 구현을 제공합니다.
• 일관된 프레임워크 내에서 순차적, 병렬, 비동기 최적화 전략을 모두 지원합니다.
• 통계나 프로그래밍에 깊은 전문 지식이 없어도 최적화 루프를 모듈식 구성 요소로 맞춤형으로 조정할 수 있도록 합니다.
• 제한된 함수 평가 수로 전역 최적해에 수렴하는 데 있어 표준 샘플링 방법(랜덤 및 라틴 하이퍼큐브 샘플링)을 능가합니다.

제안 방법

• NUBO는 알려지지 않은 블랙박스 목표 함수를 표현하기 위해 가우시안 프로세스를 대체 모델로 사용합니다.
• 탐색과 이용의 균형을 이루기 위해 획득 함수를 활용하여 새로운 평가 지점의 선택을 이끕니다.
• 획득 함수의 몬테카를로 근사치를 통해 순차적 단일점, 병렬 다중점, 비동기 최적화를 모두 지원합니다.
• 가우시안 프로세스, 획득 함수, 최적화기, 테스트 함수, 유틸리티 등의 모듈식 하위 패키지를 제공하여 탄력적인 커스터마이제이션을 가능하게 합니다.
• 읽기 쉬움과 유지보수 용이성을 고려하여 설계되었으며, 정확한 참조와 철저한 문서화를 통해 투명성을 확보합니다.
• NUBO는 효율적인 계산을 위해 PyTorch와 GPyTorch 기반으로 구축되었으며, 유계, 제약, 이산-연속 혼합 파라미터 공간을 모두 지원합니다.

Figure 1: Bayesian optimisation applied to a 1-dimensional function with one local and one global maximum. Upper confidence bound is used as the acquisition function. The input space is bounded by $[0,10]$ .

실험 결과

연구 질문

• RQ1 과학 및 공학 분야의 비전문가 연구자들이 베이지안 최적화를 어떻게 더 쉽게 접근할 수 있을까요?
• RQ2 최소한의 코드, 투명성, 철저한 문서화를 갖춘 구현이 존재하는 더 큰 패키지들보다 사용성과 성능 면에서 뛰어날 수 있을까요?
• RQ3 NUBO의 병렬 및 비동기 최적화 지원이 순차적 방법에 비해 샘플 효율성을 얼마나 향상시킬 수 있을까요?
• RQ4 고차원 블랙박스 함수의 전역 최적해를 찾는 데 있어 NUBO의 성능은 랜덤 샘플링 및 라틴 하이퍼큐브 샘플링과 비교해 어떻게 될까요?
• RQ5 826줄의 경량 코드베이스가 신뢰성이나 기능을 희생시키지 않고도 고급 베이지안 최적화 기능을 효과적으로 지원할 수 있을까요?

주요 결과

• NUBO는 70회의 평가 후 진짜 최댓값 3.32237에 매우 가까운 약 3.3076의 근사해를 달성하여 높은 샘플 효율성을 입증했습니다.
• 알고리즘이 반복 51회에서 최고의 출력을 찾았으며, 이는 파라미터 공간의 효과적인 탐색과 이용을 의미합니다.
• NUBO는 수렴 속도와 최종 해 품질 면에서 랜덤 샘플링 및 라틴 하이퍼큐브 샘플링을 모두 능가했습니다.
• BoTorch의 27,100줄 대비 NUBO의 826줄이라는 최소한의 코드베이스는 기능성이 높은 구현이 단순성과 명확성으로도 달성될 수 있음을 보여줍니다.
• NUBO는 병렬 및 비동기 최적화를 성공적으로 지원하여 동시에 여러 평가가 가능한 환경에서 더 빠른 수렴을 가능하게 했습니다.
• 모듈식 설계 덕분에 사용자는 잘 문서화되고 조합 가능한 구성 요소를 사용해 사용자 정의 최적화 루프를 작성할 수 있어 유연성과 재현 가능성이 향상되었습니다.

Figure 2: NUBO flowchart. Overview of the recommended algorithms for specific problems. Start in yellow, decisions in blue, and recommended algorithm in green.