[논문 리뷰] GPflowOpt: A Bayesian Optimization Library using TensorFlow

Nicolas Knudde, Joachim van der Herten외 2명|arXiv (Cornell University)|2017. 11. 10.

Advanced Bandit Algorithms Research참고 문헌 10인용 수 56

한 줄 요약

GPflowOpt은 GPflow/TensorFlow 위에 구축된 파이썬 베이지안 최적화 프레임워크로, 커스텀 모델 및 획득 함수의 확장을 쉽게 하며, 단일 및 다중 목표 최적화를 포함한 제약을 지원하고, 자동 미분, GPU 및 병렬화를 활용합니다.

ABSTRACT

A novel Python framework for Bayesian optimization known as GPflowOpt is introduced. The package is based on the popular GPflow library for Gaussian processes, leveraging the benefits of TensorFlow including automatic differentiation, parallelization and GPU computations for Bayesian optimization. Design goals focus on a framework that is easy to extend with custom acquisition functions and models. The framework is thoroughly tested and well documented, and provides scalability. The current released version of GPflowOpt includes some standard single-objective acquisition functions, the state-of-the-art max-value entropy search, as well as a Bayesian multi-objective approach. Finally, it permits easy use of custom modeling strategies implemented in GPflow.

연구 동기 및 목표

• GPflow를 기반으로 새로운 모델과 획득 함수를 쉽게 추가할 수 있도록 확장 가능한 베이지안 최적화 프레임워크를 구축한다.
• 자동 미분, 병렬 처리, GPU 등 TensorFlow 기능을 활용하여 베이지안 최적화를 확장한다.
• 획득 함수를 통해 단일 및 다중 목표 최적화와 제약에 대한 지원을 제공한다.
• 다양한 도메인에서의 채택과 재사용을 촉진하기 위해 엄격한 테스트와 문서를 보장한다.

제안 방법

• GPflow를 surrogate 모델링 백엔드로 사용하여 GP 기반 모델의 개발을 쉽게 한다.
• EI, PoI, LCB, MES, PoF, HvPoI 등의 획득 함수를 구현하여 GP 예측을 스칼라 점수에 매핑한다.
• BO 워크플로를 구조화하기 위한 Domain, Acquisition, Optimizer 구성요소의 모듈식 디자인을 제공한다.
• 데이터 자동 스케일링 및 모델 하이퍼파라미터 최적화를 도입하고, 하이퍼파라미터에 대해 선택적으로 Hamiltonian Monte Carlo를 지원한다.
• HvPoI 및 관련 획득 전략을 통해 Pareto 프런트 고려를 포함한 다중 목표 최적화를 지원한다.
• GPU 지원 및 자동 미분을 TensorFlow를 통해 제공하여 계산 속도를 높인다.

실험 결과

연구 질문

• RQ1 GPflowOpt가 베이지안 최적화 내에서 커스텀 GP 모델과 획득 함수에 대해 확장하기 쉬운 인터페이스를 어떻게 제공하는가?
• RQ2 PoF를 포함한 제약 조건을 포함한 단일 및 다중 목표 최적화를 GPflowOpt가 얼마나 효과적으로 지원하는가?
• RQ3 GPflowOpt가 기존 BO 프레임워크와 비교하여 언어, 자동 미분과 같은 기능, 다중 목표 지원, 코드 품질, 하드웨어 지원 측면에서 어떤 차이가 있는가?
• RQ4 GPflowOpt가 TensorFlow(GPU/자동 미분)를 활용하여 베이지안 최적화의 확장성과 성능을 향상시킬 수 있는가?

주요 결과

GPflowOpt	GPyOpt	Spearmint	BayesOpt	RoBO
Python	Python	Python	C++	Python
✓	✗	✗	✗	✗
✓	✗	✗	✗	✗
99%	56%	–	–	46%
✗	✓	✗	✗	✗
✓	✗	✗	✗	✗

• GPflowOpt는 베이지안 최적화에서 GPflow 기반의 서로 다른 대리모델을 surrogates로 간단하게 적용할 수 있게 한다.
• 자동 미분, GPU 지원, 그리고 깔끔하고 확장 가능한 객체지향 파이썬 프런트를 포함한다.
• 프레임워크는 단일 및 다중 목표 최적화를 위한 여러 획득 함수와 제약을 위한 PoF를 구현한다.
• GPflowOpt는 99% 코드 커버리지와 광범위한 문서를 포함한 엄격한 테스트를 제공한다.
• 다른 프레임워크와 비교할 때 GPflowOpt는 자동 미분, 다중 목표 지원 및 GPU 사용을 제공하지만, 배치 BO 및 특정 백엔드는 초기에는 제공되지 않는다.
• 토이 다중 목표 예제는 HvPoI 및 PoF 통합을 실제 세계 사이클론 분리기와 함께 시연한다.