[논문 리뷰] Trieste: Efficiently Exploring The Depths of Black-box Functions with TensorFlow

Victor Picheny, Joel Berkeley외 14명|arXiv (Cornell University)|2023. 02. 16.

Gaussian Processes and Bayesian Inference인용 수 20

한 줄 요약

Trieste는 모듈식 설계를 가진 오픈소스 TensorFlow 기반 베이지안 최적화 및 활성학습 라이브러리로, 실세계 BO 워크플로우를 위한 플러그앤플레이 모델과 유연한 획득 전략을 가능하게 합니다.

ABSTRACT

We present Trieste, an open-source Python package for Bayesian optimization and active learning benefiting from the scalability and efficiency of TensorFlow. Our library enables the plug-and-play of popular TensorFlow-based models within sequential decision-making loops, e.g. Gaussian processes from GPflow or GPflux, or neural networks from Keras. This modular mindset is central to the package and extends to our acquisition functions and the internal dynamics of the decision-making loop, both of which can be tailored and extended by researchers or engineers when tackling custom use cases. Trieste is a research-friendly and production-ready toolkit backed by a comprehensive test suite, extensive documentation, and available at https://github.com/secondmind-labs/trieste.

연구 동기 및 목표

• BO 루프 내에서 TF 모델링 생태계(GPflow, GPflux, Keras)를 활용하기 위한 TensorFlow 기반 베이지안 최적화 라이브러리를 제공합니다.
• BO에서 다양한 확률 모델(GPs, 딥 GP, 딥 앙상블 등)의 플러그앤플레이를 가능하게 하고 다중 목적, 다중 체성(다중 충실도) 및 제약 설정을 지원합니다.
• 실세계의 비동기적이거나 배치 평가 시나리오에 맞추어 최소한의 재추적 오버헤드로 유연한 획득 함수와 규칙을 제공합니다.
• 실세계 문제의 연구 및 배치를 촉진하기 위해 테스트와 문서를 갖춘 사용자 친화적이고 생산 준비가 된 도구상자를 제공합니다.

제안 방법

• TensorFlow 환경에서 실행되도록 설계된 고도로 모듈식 BO 라이브러리를 소개합니다.
• 비동기 및 배치 평가 워크플로를 포함하여 서로 다른 수준의 제어를 위한 인터페이스(AskTellOptimizer 및 BayesianOptimizer)를 제공합니다.
• TensorFlow 기반 라이브러리(GPflow, GPflux, Keras)에서 다양한 확률 모델을 지원하고 다중 출력/다중 작업 기능을 제공합니다.
• 복잡한 질의 포인트 선택을 다루기 위한 AcquisitionRule 및 AcquisitionFunction 추상화를 정의하고, 획득의 기울기 기반 최적화를 위한 자동 미분을 제공합니다.
• 비용이 많이 드는 재추적를 피하기 위한 루프 내 그래프 관리의 효율성을 보장하고 확장 가능한 병렬 최적화 및 모니터링(TensorBoard 등)을 가능하게 합니다.
• 연구 확장과 생산 사용을 지원하기 위해 포괄적인 테스트 스위트(97% 커버리지)와 광범위한 문서를 제공합니다.

(a)

실험 결과

연구 질문

• RQ1 Trieste가 단계 간 전체 모델 재추적 없이도 TensorFlow 생태계 내에서 효과적인 베이지안 최적화를 가능하게 할 수 있을까요?
• RQ2 실세계 BO 작업을 위해 서로 다른 모델 유형, 획득 함수 및 의사 결정 루프 인터페이스를 얼마나 유연하게 지원합니까?
• RQ3 프레임워크가 TensorFlow 기반 파이프라인 내에서 비동기적, 배치형, 다중 목표, 다중 충실도 및 제약 최적화를 용이하게 합니까?
• RQ4 강력한 테스트 및 문서를 갖춘 상태에서 Trieste가 연구 및 생산 용도 모두에 어느 정도까지 서비스할 수 있습니까?

주요 결과

• Trieste는 모듈화와 확장의 용이성을 위해 설계된 오픈소스 TensorFlow 기반 BO 라이브러리입니다.
• TF 기반 모델(GPflow, GPflux, Keras)의 플러그앤플레이 통합과 AskTellOptimizer 및 BayesianOptimizer를 통한 다수의 BO 패러다임을 지원합니다.
• AcquisitionRule 및 AcquisitionFunction 추상화는 기울기 자동 미분을 통한 유연하고 확장 가능한 질의 포인트 선택 및 배치 처리를 가능하게 합니다.
• 연구 및 생산 사용을 지원하기 위해 포괄적인 테스트 스위트(97% 커버리지)와 광범위한 문서를 제공합니다.
• Trieste는 이미 연구 및 산업 응용(예: 열 교환기, 접착 결합)에 영향을 주고 있으며 앞으로도 고차원 및 비유클리드 지원을 계속 추가할 것입니다.

(b)