[논문 리뷰] Bayesian Optimisation over Multiple Continuous and Categorical Inputs

Binxin Ru, Ahsan Alvi외 3명|arXiv (Cornell University)|2019. 06. 20.

Advanced Bandit Algorithms Research참고 문헌 27인용 수 13

한 줄 요약

이 논문은 연속적이고 범주형 베이지안 최적화(CoCaBO)를 제안하며, 혼합된 연속적 및 범주형 입력을 가진 블랙박스 함수를 효율적으로 최적화하기 위해 다중 손실 기반 밴딧과 가우시안 프로세스 회귀를 통합한 새로운 방법이다. 하나의 온핫 인코딩 없이도 범주 간 정보 공유를 가능하게 하는 새로운 커널을 도입함으로써, 기존 방법에 비해 더 높은 샘플 효율성과 성능을 달성하였으며, 특히 다수의 범주형 변수를 포함한 시뮬레이션 및 실세계 작업에서 뛰어난 성능을 보였다.

ABSTRACT

Efficient optimisation of black-box problems that comprise both continuous and categorical inputs is important, yet poses significant challenges. We propose a new approach, Continuous and Categorical Bayesian Optimisation (CoCaBO), which combines the strengths of multi-armed bandits and Bayesian optimisation to select values for both categorical and continuous inputs. We model this mixed-type space using a Gaussian Process kernel, designed to allow sharing of information across multiple categorical variables, each with multiple possible values; this allows CoCaBO to leverage all available data efficiently. We extend our method to the batch setting and propose an efficient selection procedure that dynamically balances exploration and exploitation whilst encouraging batch diversity. We demonstrate empirically that our method outperforms existing approaches on both synthetic and real-world optimisation tasks with continuous and categorical inputs.

연구 동기 및 목표

• 기존 방법이 차원의 저주 또는 샘플 비효율성으로 인해 어려움을 겪는 연속적 및 범주형 입력을 모두 포함하는 함수에 대한 베이지안 최적화 문제를 해결하기 위해.
• 다수의 범주형 변수에서 확장성이 떨어지는 온핫 인코딩의 한계를 극복하기 위해.
• 각 범주별 별도 모델링 없이도 둘 다의 입력 유형 간 상호작용을 포괄하는 통합된 샘플 효율적인 서로서비스 모델을 개발하기 위해.
• 병렬 평가를 가능하게 하면서도 탐색-이용 균형과 다양성을 유지하는 배치 설정으로의 확장을 위해.
• 많은 값들을 가진 다수의 범주형 변수를 포함한 실세계 및 시뮬레이션 벤치마크에서 뛰어난 성능을 입증하기 위해.

제안 방법

• 다양한 범주형 선택을 위한 다중 손실 기반 밴딧과 연속 변수를 위한 가우시안 프로세스 기반 베이지안 최적화를 통합한 하이브리드 프레임워크인 CoCaBO를 제안한다.
• 연속적 및 범주형 입력 간의 상호작용을 모델링하기 위해 합과 곱의 구조를 조합한 새로운 커널 함수를 도입한다. 이는 범주 간 정보 공유를 가능하게 한다.
• 온핫 인코딩을 피하기 위해 범주형 변수를 구조화된 공분산을 가진 이산 입력으로 간주하는 커널 분해를 사용함으로써 데이터 효율성을 향상시킨다.
• 혼합 입력 공간에서 탐색과 이용을 균형 잡는 동적 할당 함수를 사용하며, 다양성을 증진하는 배치 선택 절차를 적용한다.
• 연속적 입력 전용 커널과 타입 간 상호작용을 모델링하는 곱 커널의 합으로 이루어진 하이브리드 커널을 적용하며, 학습 가능한 초매개변수를 포함한다.
• 동시에 여러 점을 선택하는 방식으로 배치 설정으로의 확장을 위해 다양성 인식 선택 전략을 사용함으로써 탐색을 유지한다.

실험 결과

연구 질문

• RQ1 온핫 인코딩을 사용하지 않고도 통합된 베이지안 최적화 프레임워크가 혼합된 연속적 및 범주형 입력을 효과적으로 다룰 수 있는가?
• RQ2 고차원의 범주형 공간에서 샘플 효율성을 향상시키기 위해 다양한 범주 값 간에 정보를 효율적으로 공유할 수 있는가?
• RQ3 커널 기반 접근법이 예측 정확도와 최적화 수렴 속도 면에서 계층적 또는 온핫 인코딩된 모델을 능가할 수 있는가?
• RQ4 범주형 변수와 범주 수가 증가함에 따라 제안된 방법의 확장성은 어떻게 되는가?
• RQ5 배치 버전의 방법은 병렬 평가와 함께 선택된 점의 다양성을 유지하면서도 성능을 유지를 할 수 있는가?

주요 결과

• 제안된 커널을 사용한 CoCaBO는 특히 범주형 입력 수가 증가할수록 온핫 인코딩된 GP 모델보다 더 높은 샘플 외 예측 로그우도를 달성한다.
• 순차적 설정에서 CoCaBO-0.5와 CoCaBO-auto는 모든 시뮬레이션 및 실세계 문제에서 경쟁 방법들을 능가하며, 고범주 복잡도를 가진 NAS-CIFAR10 및 Ackley-5C에서도 뛰어난 성능을 보였다.
• CoCaBO는 범주 조합 수가 많은 문제(예: Ackley-5C의 17^5)에서 EXP3BO를 항상 능가한다. EXP3BO는 과도한 서로서비스 모델이 필요해 실패한다.
• TPE는 범주 조합 수가 적을 경우(예: 15 또는 16)에만 잘 작동하지만, NAS-CIFAR10(243개 조합)와 같이 큰 문제에서는 성능이 급격히 떨어지며, CoCaBO는 이 경우에서 뛰어난 성능을 보였다.
• b=4의 배치 설정에서 CoCaBO-0.5와 CoCaBO-auto는 다시 한번 최고의 성능을 기록하였으며, CoCaBO-1.0(오직 곱 커널)은 선택한 범주 수가 적을 경우 데이터 오버랩이 증가해 경쟁적인 성능을 보였다.
• 권장 기본 설정은 λ=0.5 또는 λ=auto이며, 하이브리드 커널의 구조가 혼합형 입력 공간에서 표현력과 일반화 능력의 최적 균형을 제공한다.