[논문 리뷰] Batched Large-scale Bayesian Optimization in High-dimensional Spaces

Zi Wang, Clement Gehring외 2명|arXiv (Cornell University)|2017. 06. 05.

Gaussian Processes and Bayesian Inference참고 문헌 24인용 수 70

한 줄 요약

논문은 Ensemble Bayesian Optimization(EBO)을 소개합니다. 이는 Mondrian 기반 분할로 Gibbs 샘플링을 통해 학습된 TileGP의 앙상블을 활용하여 병렬 배치 질의와 불확실성 추정 향상을 가능하게 하는 고차원, 대규모 문제를 위한 확장 가능한 BO 프레임워크입니다.

ABSTRACT

Bayesian optimization (BO) has become an effective approach for black-box function optimization problems when function evaluations are expensive and the optimum can be achieved within a relatively small number of queries. However, many cases, such as the ones with high-dimensional inputs, may require a much larger number of observations for optimization. Despite an abundance of observations thanks to parallel experiments, current BO techniques have been limited to merely a few thousand observations. In this paper, we propose ensemble Bayesian optimization (EBO) to address three current challenges in BO simultaneously: (1) large-scale observations; (2) high dimensional input spaces; and (3) selections of batch queries that balance quality and diversity. The key idea of EBO is to operate on an ensemble of additive Gaussian process models, each of which possesses a randomized strategy to divide and conquer. We show unprecedented, previously impossible results of scaling up BO to tens of thousands of observations within minutes of computation.

연구 동기 및 목표

• 고차원, 대규모 설정에서 베이지안 최적화의 도전과제를 해결한다.
• 함수 평가와 포스트eriior 추론을 가속하기 위해 병렬성을 활용한다.
• locality를 보존하고 불확실성 추정치를 제공하는 앙상블, 분할 기반 GP 프레임워크를 개발한다.
• 품질과 다양성을 균형 있게 조정하는 자동 배치 질의 생성을 가능하게 한다.

제안 방법

• 입력 공간을 J개의 영역으로 분할하기 위해 Mondrian 프로세스를 사용한다.
• 각 분할 내에서 Local TileGP(GP의 가법 구조와 타일/몬드리안 특징을 갖는 GP)를 Gibbs 샘플링을 통해 커널 너비와 분해를 추론하도록 학습한다.
• 분할별 GP 모델 앙상블을 구성하고 매 반복마다 한 멤버를 선택해 탐색과 추정에 이용한다.
• 가법 구성 요소 내에서 로컬하게 취획 함수를 최적화하여 블록-좌표형 최적화를 가능하게 한다.
• 다양성 인식 필터링 단계와 로그-결정다항식 다양성 항 및 취득 기반 점수를 사용하여 분할 전반의 후보 점을 집계한다.
• 학습된 분할 매개변수를 워커 간에 동기화하여 글로벌 배치 질의를 형성한다.

실험 결과

연구 질문

• RQ1 고차원 공간에서 수만 개의 관측으로 확장 가능한 베이지안 최적화는 가능한가?
• RQ2 가법 구조를 가진 분할된 GP 모델의 앙상블이 병렬 배치 질의 생성을 가능하게 하면서도 정확한 불확실성 추정치를 제공할 수 있는가?
• RQ3 몬드리안 기반 분할과 타일 코딩이 최적화 품질을 희생하지 않으면서도 확장 가능하고 병렬화 가능한 BO를 촉진하는가?
• RQ4 EBO는 synthetic 및 실제 과제에서 속도와 해의 품질 측면에서 기존의 확장 가능한 BO 방법들과 어떻게 비교되는가?

주요 결과

• EBO는 최첨단 방법 대비 후방 추론을 2–3세대 규모로 가속화합니다(한 사례에서 최대 400배).
• EBO는 병렬 계산을 통해 수만 개의 관측을 처리하면서도 경쟁력 있거나 우수한 최적화 품질을 유지합니다.
• Tile coding과 Gibbs 샘플링을 갖춘 가법 GP는 커널 구조와 분해를 효과적으로 학습하여 확장 가능한 BO를 가능하게 합니다.
• 몬드리안 분할을 통한 병렬 Gibbs 샘플링과 배치 질의 선택은 상당한 속도 향상을 제공합니다(예: 240대 vs 10코어로 약 20배).
• 실험에서 EBO는 BO-SVI, BO-Add-SVI, CEM과 같은 대안들보다 여러 제어 및 궤적 최적화 과제에서 우수한 성능을 보였습니다.