[논문 리뷰] Batched High-dimensional Bayesian Optimization via Structural Kernel Learning

Zi Wang, Chengtao Li외 2명|arXiv (Cornell University)|2017. 03. 06.

Machine Learning and Data Classification인용 수 47

한 줄 요약

이 논문은 입력 공간에서 은닉 가산 구조를 깁스 샘플링을 통해 공동으로 학습하고, 구조적 커널 학습을 사용하여 다각도 점진적 선택(DPPs)을 통해 다양하고 고급도의 배치를 선택하는 배치 처리, 고차원 베이지안 최적화 방법을 제안한다. 이 방법은 고차원 블랙박스 최적화에서 기존 최상의 방법들을 크게 능가하며, 특히 차원 수가 증가할수록 성능 향상이 두드러진다.

ABSTRACT

Optimization of high-dimensional black-box functions is an extremely challenging problem. While Bayesian optimization has emerged as a popular approach for optimizing black-box functions, its applicability has been limited to low-dimensional problems due to its computational and statistical challenges arising from high-dimensional settings. In this paper, we propose to tackle these challenges by (1) assuming a latent additive structure in the function and inferring it properly for more efficient and effective BO, and (2) performing multiple evaluations in parallel to reduce the number of iterations required by the method. Our novel approach learns the latent structure with Gibbs sampling and constructs batched queries using determinantal point processes. Experimental validations on both synthetic and real-world functions demonstrate that the proposed method outperforms the existing state-of-the-art approaches.

연구 동기 및 목표

• 표준 베이지안 최적화에서 계산적·통계적으로 어려운 고차원 블랙박스 함수 최적화 문제를 해결한다.
• 기존 베이지안 최적화의 순차적 평가 제한을 극복하기 위해 병렬 함수 평가를 허용하는 배치 처리 평가를 가능하게 한다.
• 효율적 차원 수를 감소시키고 샘플 효율성을 향상시키기 위해 고차원 함수의 은닉 가산 구조를 동시에 추론한다.
• 고차원 환경에서 탐색(다양성)과 이용(품질)의 균형을 이루는 확장 가능한 효과적인 배치 선택 전략을 개발한다.
• 로봇 제어 및 하이퍼파rameter 튜닝과 같은 실제 고차원 문제에서 베이지안 최적화의 성능을 향상시킨다.

제안 방법

• 각 구성 요소가 입력 차원의 상호배타적 부분집합에서 작동하는 은닉 부분공간을 가진 가우스 프로세스의 가산 모델을 사용해 고차원 함수를 모델링한다.
• 입력 차원의 은닉 분해와 커널 하이퍼파ram터를 함께 추론하기 위해 깁스 샘플링을 사용하며, 부분공간 차원 수가 사전에 알려져 있지 않은 상태에서 구조 학습이 가능하도록 한다.
• 다양성을 증진시키면서도 높은 기대 향상도를 유지하는 결정성 점진적 선택(DPPs)을 통해 배치 쿼리를 구성한다.
• 구조적 커널과 함께 병행된 획득 함수(예: UCB 기반)를 통합하여 동시에 여러 점을 선택하는 데 지도한다.
• DPP를 통한 다양성 증진과 UCB 점수를 통한 품질 기반 선택을 하이브리드 목표로 통합하며, DPP 최적화된 배치를 하위모듈러스 다양성의 대체 측정치로 사용한다.
• 확장성을 향상시키고 고차원 환경에서 과적합을 방지하기 위해 분해의 최대 그룹 크기를 제한한다.

실험 결과

연구 질문

• RQ1 은닉 가산 구조의 공동 학습과 병행된 획득 함수가 고차원 베이지안 최적화에서 샘플 효율성을 향상시키는가?
• RQ2 고차원 환경에서 DPP를 사용한 배치 선택이 탐욕적 또는 무작위 선택과 비교해 어떻게 성능을 냅니다?
• RQ3 품질(예: UCB 점수)과 다양성(DPP를 통한)을 동시에 고려한 배치 선택 전략이 단지 하나의 요소에 집중하는 방법보다 최적화 성능을 향상시키는가?
• RQ4 기존 최상의 방법들과 비교해 제안된 방법의 성능는 입력 차원 수가 증가함에 따라 어떻게 변화하는가?
• RQ5 로봇 제어와 같은 복잡한 매개변수 공간을 가진 실제 고차원 문제를 효과적으로 최적화할 수 있는가?

주요 결과

• 제안된 방법인 Batch-UCB-DPP-Fnc는 모든 테스트 벤치마크에서 최고의 성능를 기록하며, 랜덤 샘플링 및 기타 배치 선택 전략보다 뚜렷이 뛰어나다.
• 20차원 및 50차원의 합성 함수에서 Batch-UCB-DPP-Fnc는 다른 방법들과 비교해 더 큰 성능 격차를 보이며, 고차원 환경에서 탐색-이용 균형이 향상됨을 시사한다.
• 25개의 매개변수를 가진 실제 워커 이중보행 로봇 작업에서, 모든 다양성 기반 배치 샘플링 방법이 랜덤 샘플링을 크게 앞서며, Batch-UCB-DPP-Fnc는 가장 낮은 단순 회귀를 달성한다.
• 더 큰 배치 크기(B=10 대비 B=5)에서 Batch-UCB-DPP-Fnc와 다른 방법들 사이의 성능 격차가 커지며, 확장성과 강건성을 입증한다.
• 깁스 샘플링을 통한 은닉 가산 구조의 효과적인 학습을 통해 진짜 분해가 알려지지 않은 경우에도 효율적인 최적화가 가능하다.
• 구조적 커널 학습과 DPP 기반 배치 선택의 조합은 기존의 병행된 BO 방법보다 더 빠른 수렴과 낮은 누적 회귀를 이룬다.