[논문 리뷰] Budgeted Batch Bayesian Optimization With Unknown Batch Sizes

Vu Nguyen, Santu Rana외 3명|arXiv (Cornell University)|2017. 03. 15.

Machine Learning and Algorithms참고 문헌 43인용 수 6

한 줄 요약

이 논문은 무한 가우시안 혼합 모델(IGMM)을 사용하여 획득 함수의 피크 수를 추정함으로써 각 반복에서 최적의 배치 크기를 동적으로 결정하는 유연한 배치 베이지안 최적화 방법인 Budgeted Batch Bayesian Optimization(B3O)를 제안한다. 획득 함수에서 효율적으로 샘플링하기 위해 배치 일반화 슬라이스 샘플링을 활용함으로써 B3O는 중복 평가를 피하고, 더 적은 함수 평가 횟수로도 하이퍼파rameter 튜닝과 실험 설계에서 고정 배치 방법보다 뛰어난 수렴 성능을 달성한다.

ABSTRACT

Parameter settings profoundly impact the performance of machine learning algorithms and laboratory experiments. The classical grid search or trial-error methods are exponentially expensive in large parameter spaces, and Bayesian optimization (BO) offers an elegant alternative for global optimization of black box functions. In situations where the black box function can be evaluated at multiple points simultaneously, batch Bayesian optimization is used. Current batch BO approaches are restrictive in that they fix the number of evaluations per batch, and this can be wasteful when the number of specified evaluations is larger than the number of real maxima in the underlying acquisition function. We present the Budgeted Batch Bayesian Optimization (B3O) for hyper-parameter tuning and experimental design - we identify the appropriate batch size for each iteration in an elegant way. To set the batch size flexible, we use the infinite Gaussian mixture model (IGMM) for automatically identifying the number of peaks in the underlying acquisition functions. We solve the intractability of estimating the IGMM directly from the acquisition function by formulating the batch generalized slice sampling to efficiently draw samples from the acquisition function. We perform extensive experiments for both synthetic functions and two real world applications - machine learning hyper-parameter tuning and experimental design for alloy hardening. We show empirically that the proposed B3O outperforms the existing fixed batch BO approaches in finding the optimum whilst requiring a fewer number of evaluations, thus saving cost and time.

연구 동기 및 목표

• 사전에 정해진 배치 크기로 인해 중복 또는 누락 평가가 발생하는 고정 배치 베이지안 최적화의 비효율성을 해결한다.
• 각 반복에서 획득 함수의 의미 있는 피크 수를 추정함으로써 민감한 배치 크기 선택을 가능하게 한다.
• 비용이 많이 드는 블랙박스 최적화 문제에서 전역 최적해에 도달하기 위해 필요한 함수 평가 횟수를 줄인다.
• 기계 학습 하이퍼파rameter 튜닝과 재료 과학 실험 설계와 같은 실제 응용 분야에서 효율성과 비용 효율성을 향상시킨다.
• 무거운 평가를 피하기 위해 잡음이 많거나 열등한 점들을 반복적으로 평가하지 않는 비그리디브, 적응형 접근법을 개발한다.

제안 방법

• 비모수적 방법으로 획득 함수의 잠재적 피크 수를 추정하기 위해 무한 가우시안 혼합 모델(IGMM)을 사용함으로써 자동으로 배치 크기를 결정할 수 있도록 한다.
• 직접 IGMM 피팅이 비가역적인 문제를 해결하기 위해 배치 일반화 슬라이스 샘플링 방법을 제안한다.
• 지표 모델의 사후 평균과 분산을 활용하여 획득 함수 샘플링을 지도함으로써 높은 불확실성과 높은 잠재력이 있는 영역을 탐색한다.
• 추정된 피크 수에 기반하여 배치 점을 동적으로 선택함으로써 중복되거나 가치가 낮은 점들을 탐색하는 그리디한 선택을 피한다.
• 각 적응형 배치 평가 후 서rogate 모델을 업데이트하는 베이지안 최적화 루프에 IGMM와 슬라이스 샘플링을 통합한다.
• SVR, BNMC, MLP 및 알루미늄-스칸디움 합금의 경도 증가 실험과 같은 시뮬레이션 및 실제 문제에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 고정된 사전 지정된 배치 크기 없이도 베이지안 최적화 방법이 각 반복에서 최적의 배치 크기를 동적으로 결정할 수 있는가?
• RQ2 최적화 과정에서 무한 가우시안 혼합 모델(IGMM)이 획득 함수의 의미 있는 피크 수를 얼마나 정확하게 추정할 수 있는가?
• RQ3 IGMM와 슬라이스 샘플링을 사용한 적응형 배치 크기 선택이 고정 배치 방법보다 더 빠른 수렴과 더 적은 함수 평가 횟수를 이끌 수 있는가?
• RQ4 제안된 방법이 하이퍼파rameter 튜닝과 재료 설계와 같은 실제 응용 분야에서 기존의 배치 베이지안 최적화 기법보다 뛰어난 성능을 보일 수 있는가?
• RQ5 배치 일반화 슬라이스 샘플링 방법이 복잡한 다모드 획득 함수에서 효율적이고 정확한 샘플링을 얼마나 잘 가능하게 하는가?

주요 결과

• MLP를 사용하여 MNIST 데이터셋에서 98.47%의 최고 정확도를 달성하여 모든 고정 배치 기준선보다 성능이 뛰어나다.
• SVR 하이퍼파rameter 튜닝에서 B3O는 비교된 모든 방법들 중에서 가장 낮은 RMSE를 기록하여 뛰어난 최적화 효율성을 보여준다.
• BNMC 다중 레이블 분류에서 B3O는 가장 높은 F1 점수를 기록하여 더 나은 일반화 및 최적화 성능를 나타낸다.
• 알루미늄-스칸디움 합금의 경도 증가 실험에서 B3O는 기준선 대비 가장 적은 수의 물리적 실험을 통해 최대 경도 88.3을 달성했다.
• 모든 벤치마크 작업에서 고정 배치 방법보다 B3O가 더 적은 총 함수 평가 횟수를 요구하여 비용과 시간 효율성을 입증했다.
• 방법은 획득 함수의 진짜 피크 수를 성공적으로 식별하여 과도하거나 부족한 평가 없이 지능적인 배치 크기 선택을 가능하게 했다.