[논문 리뷰] Scalable Combinatorial Bayesian Optimization with Tractable Statistical models

Aryan Deshwal, Syrine Belakaria외 1명|arXiv (Cornell University)|2020. 08. 18.

Machine Learning and Data Classification참고 문헌 31인용 수 8

한 줄 요약

이 논문은 조합적 베이지안 최적화에서 획득 함수 최적화(AFO)를 위한 확장성 있고 정확한 방법인 매개변수화된 하위모듈러스 근사(PSR)를 제안한다. AFO를 학습 가능한 매개변수를 가진 하위모듈러스 근사로 재정의하고, 효율적인 최소 그래프 컷 알고리즘을 통해 해결함으로써, 특히 다중 이진 변수나 다중 범주형 변수를 포함한 고차원 조합적 공간에서 이전의 SDP 기반 접근법인 BOCS보다 훨씬 빠른 계산 속도와 더 높은 최적화 정확도를 달성한다.

ABSTRACT

We study the problem of optimizing expensive blackbox functions over combinatorial spaces (e.g., sets, sequences, trees, and graphs). BOCS (Baptista and Poloczek, 2018) is a state-of-the-art Bayesian optimization method for tractable statistical models, which performs semi-definite programming based acquisition function optimization (AFO) to select the next structure for evaluation. Unfortunately, BOCS scales poorly for large number of binary and/or categorical variables. Based on recent advances in submodular relaxation (Ito and Fujimaki, 2016) for solving Binary Quadratic Programs, we study an approach referred as Parametrized Submodular Relaxation (PSR) towards the goal of improving the scalability and accuracy of solving AFO problems for BOCS model. PSR approach relies on two key ideas. First, reformulation of AFO problem as submodular relaxation with some unknown parameters, which can be solved efficiently using minimum graph cut algorithms. Second, construction of an optimization problem to estimate the unknown parameters with close approximation to the true objective. Experiments on diverse benchmark problems show significant improvements with PSR for BOCS model. The source code is available at https://github.com/aryandeshwal/Submodular_Relaxation_BOCS .

연구 동기 및 목표

• 많은 이진 변수나 범주형 변수를 포함한 고차원 조합적 공간에서 BOCS의 SDP 기반 획득 함수 최적화(AFO)의 열악한 확장성 문제를 해결하기 위해.
• 근사 오차를 줄임으로써, 근사 기반 최적화에서 AFO의 정확도를 향상시키기 위해.
• 집합, 순서, 트리, 그래프와 같은 조합적 구조에서 계산이 용이한 통계 모델을 사용해 효율적이고 확장 가능한 베이지안 최적화를 가능하게 하기 위해.
• 계산 효율성과 해 품질의 균형을 맞춘 매개변수화된 하위모듈러스 근사 프레임워크를 개발하기 위해.
• PSR가 최신 기술인 BOCS의 SDP 기반 AFO에 비해 계산 효율성과 전체 베이지안 최적화 정확도 측면에서 향상됨을 경험적으로 검증하기 위해.

제안 방법

• BOCS의 획득 함수 최적화(AFO) 문제를 미지의 매개변수를 가진 하위모듈러스 근사로 재정의하여 최소 그래프 컷 알고리즘을 통해 효율적으로 해결할 수 있도록 하기 위해.
• 이중 단계 최적화를 사용: 먼저 그래프 컷을 사용해 근사된 AFO 문제를 해결하고, 그 다음에 근사된 목표 함수와 진짜 목표 함수 간의 격차를 최소화하도록 미지의 매개변수를 최적화하기 위해.
• 하위모듈러스 근사의 매개변수를 추정하기 위해 진짜 획득 함수를 근사하는 프oxy 목표를 사용하는 외부 최적화 문제를 구성하기 위해.
• 최근의 이토와 후지마키(2016)의 이진 제곱형 프로그래밍(BQP)을 위한 하위모듈러스 근사 기술을 활용하여 조합적 베이지안 최적화에서의 확장성과 정확도를 향상시키기 위해.
• PSR 프레임워크를 BOCS 프레임워크에 통합하여, 그 기존의 SDP 기반 AFO를 더 빠르고 정확한 하위모듈러스 근사 방법으로 대체하기 위해.
• BOCS 내에서 획득 함수로 톰슨 샘플링을 사용하며, 이진 변수에 대한 계산이 용이한 통계 모델을 유지하기 위해.

실험 결과

연구 질문

• RQ1 학습 가능한 매개변수를 가진 하위모듈러스 근사는 조합적 베이지안 최적화에서 획득 함수 최적화의 확장성을 향상시킬 수 있는가?
• RQ2 제안된 PSR 방법은 BOCS의 SDP 기반 접근법에 비해 더 나은 AFO 해 품질을 달성하는가?
• RQ3 PSR은 수렴 속도와 최종 목표 함수 값 측면에서 전체 베이지안 최적화 성능을 어느 정도 향상시키는가?
• RQ4 특히 고차원 이진 및 범주형 변수를 포함한 조합적 공간의 차원이 증가함에 따라 PSR은 어떻게 확장되는가?
• RQ5 SDP에 비해 AFO 계산 시간을 크게 줄이며 정확도를 유지하거나 향상시킬 수 있는가?

주요 결과

• 입력 차원이 증가할수록 PSR은 SDP 기반 접근법에 비해 평균 AFO 시간을 크게 단축시키며, 성능 격차는 점점 커진다.
• 모든 벤치마크 도메인에서 PSR은 획득 함수 목표의 평균 향상 비율이 더 높게 나타나며, 일관되게 SDP를 능가한다.
• 고차원 문제에서 PSR과 SDP 간의 AFO 해 정확도 격차는 점점 커지며, PSR의 확장성 능력을 입증한다.
• PSR을 사용한 BOCS는 수렴 곡선을 통해 SDP 기반 BOCS보다 더 낮은 최적 함수 값을 더 빨리 도달하며, 전체 최적화 정확도가 더 높다.
• 평균적으로 PSR은 기준 사례(가장 낮은 차원) 대비 AFO 시간을 입력 차원이 증가함에 따라 증가하는 요인으로 줄이며, 250회의 BO 반복 동안 강력한 복합 효율성 향상을 보인다.
• BQP, 이징(Ising), 오염(Contamination) 등 다양한 실제 벤치마크에서 일관된 성능 향상이 나타나며, 속도와 해 품질 양면에서 유의미한 개선을 이룬다.