[논문 리뷰] Efficient and Scalable Batch Bayesian Optimization Using K-Means

Matthew Groves, Edward O. Pyzer‐Knapp|arXiv (Cornell University)|2018. 06. 04.

Machine Learning and Algorithms참고 문헌 2인용 수 16

한 줄 요약

이 논문은 배치 베이지안 최적화에서 획득 함수의 피크를 효율적으로 식별하기 위해 K-means 군집화를 사용하는 새로운 배치 샘플링 알고리즘인 K-Means 배치 베이지안 최적화(KMBBO)를 제안한다. 슬라이스 샘플링을 통해 확보한 점들을 군집화하고 중심점을 배치 후보로 선정함으로써 KMBBO는 탐색과 이용의 균형을 뛰어나게 확보하며, 고전적 방법들인 LP, Constant Liar, Thompson Sampling, B3O에 비해 합성 및 실제 응용 과제(예: 하이퍼파rameter 튜닝 및 신약 개발)에서 일관되게 낮은 분산을 보이며 뛰어난 성능을 발휘한다. 100회 반복 실험에서 안정적인 성능을 보였다.

ABSTRACT

We present K-Means Batch Bayesian Optimization (KMBBO), a novel batch sampling algorithm for Bayesian Optimization (BO). KMBBO uses unsupervised learning to efficiently estimate peaks of the model acquisition function. We show in empirical experiments that our method outperforms the current state-of-the-art batch allocation algorithms on a variety of test problems including tuning of algorithm hyper-parameters and a challenging drug discovery problem. In order to accommodate the real-world problem of high dimensional data, we propose a modification to KMBBO by combining it with compressed sensing to project the optimization into a lower dimensional subspace. We demonstrate empirically that this 2-step method outperforms algorithms where no dimensionality reduction has taken place.

연구 동기 및 목표

• 순차적 베이지안 최적화의 한계를 해결하기 위해 자원이 풍부하고 병렬 평가가 요구되는 환경에서 배치 샘플링이 필요한 문제를 다루기 위해.
• 획득 함수의 다수의 피크에 걸쳐 정보성 있고 잘 분포된 점들을 신뢰성 있게 식별할 수 있는 확장성 있고 효율적인 배치 샘플링 방법을 개발하기 위해.
• 표준 배치 BO 방법이 계산 오버헤드 또는 열악한 탐색으로 어려움을 겪는 고차원 최적화 문제에서 성능와 내구성을 향상시키기 위해.
• 고정된 배치 크기를 갖는 실제 응용 분야(예: 신약 개발 및 재료 과학)에서 효과적인 배치 최적화를 가능하게 하기 위해.
• 압축 감지 기법을 통합한 차원 감소 확장형인 CS-KMBBO를 제안하여 고차원 문제에서도 성능을 유지하기 위해.

제안 방법

• KMBBO는 획득 함수 표면에서 후보 점들을 생성하기 위해 일반화된 슬라이스 샘플링을 사용한다.
• 획득 함수의 국소 최대값 주변에 집중된 군집을 형성하기 위해 슬라이스 샘플에 K-means 군집화를 적용한다.
• 군집 중심점이 최종 배치로 선정되어 다수의 피크를 다양하고 포괄적으로 커버한다.
• 동일 지역에 점들이 집중되는 것을 방지하기 위해 군집 내 거리에 이차 페널티 항을 적용함으로써 공간적 분산을 촉진한다.
• 고차원 문제의 경우, CS-KMBBO는 KMBBO를 적용하기 전에 데이터를 저차원 부분공간으로 투영하기 위해 TWiST 기법을 통합한다.
• 획득 함수의 전역 최적화를 위한 고비용 연산을 피하기 위해 샘플된 점들의 군집화에 의존함으로써 계산 비용을 감소시킨다.

실험 결과

연구 질문

• RQ1 슬라이스 샘플링된 획득 함수 값에 대한 K-means 군집화가 배치 베이지안 최적화에서 다수의 정보성 있는 피크를 안정적으로 식별할 수 있는가?
• RQ2 다양한 최적화 과제에서 Constant Liar, LP, Thompson Sampling, B3O와 같은 기존의 배치 BO 방법들과 비교해 KMBBO는 성능 및 내구성 면에서 어떻게 다른가?
• RQ3 KMBBO에 압축 감지 기법을 통합한 CS-KMBBO는 고차원 문제에서 계산 비용을 줄이면서도 높은 성능을 유지하는가?
• RQ4 다중 모달 획득 함수 지오메트리에서 KMBBO의 샘플링 행동은 탐색과 이용 측면에서 다른 배치 방법과 어떻게 다를까?
• RQ5 100회 반복 실험에서 낮은 표준편차로 나타나는 KMBBO의 성능 안정성은 고비용의 실제 최적화 과제에서 신뢰할 수 있는 선택이 되는가?

주요 결과

• KMBBO는 하이퍼파rameter 튜닝 및 고차원 신약 개발 문제를 포함한 다양한 합성 및 실제 과제에서 LP, Constant Liar, Thompson Sampling, B3O를 포함한 최신 기술을 초월하는 성능을 보였다.
• 100회 반복 실험에서 가장 일관된 성능과 가장 낮은 표준편차를 기록하여 고비용 최적화 환경에서 매우 높은 신뢰성을 보였다.
• 1차원 토이 문제에서 KMBBO는 획득 함수의 세 개의 주요 피크를 모두 성공적으로 식별하고 샘플링했으며, 다른 방법들은 보조 피크를 탐색하지 못하거나 저품질 영역을 과도하게 탐색했다.
• 압축 감지 기법을 통해 차원을 감소시킨 CS-KMBBO 변종은 저차원 부분공간에서 작동함에도 불구하고 기준 방법보다 뛰어난 성능을 달성했으며, 고차원 문제에 효과적임을 입증했다.
• 획득 함수의 직접 최적화가 아닌 슬라이스 샘플의 군집화에 의존함으로써 계산 비용을 크게 감소시키면서도 고품질의 배치 선택을 유지할 수 있었다.
• KMBBO는 슬라이스 샘플 수의 변화에 뛰어나게 강건한 반면, IGMM 기반 피크 탐지 기법을 사용하는 B3O는 이러한 변화에 매우 민감함을 보였다.