[논문 리뷰] GIBBON: General-purpose Information-Based Bayesian OptimisatioN

Henry B. Moss, David S. Leslie외 2명|Lancaster EPrints (Lancaster University)|2021. 02. 05.

Advanced Multi-Objective Optimization Algorithms참고 문헌 82인용 수 8

한 줄 요약

GIBBON은 분산, 다중 정밀도, 구조적 이산 입력 공간 최적화를 하나의 원리적인 확보 함수 아래 통합하는 일반적이고 계산적으로 효율적인 정보 이론적 베이지안 최적화 프레임워크를 제안한다. 새로운 정보 수익 근사법을 활용하여 낮은 계산 오버헤드로 최신 기술 수준의 성능을 달성하며, 유전자의 설계와 같은 비유클리드 공간에서의 고성능 배치 BO를 가능하게 한다.

ABSTRACT

This paper describes a general-purpose extension of max-value entropy search, a popular approach for Bayesian Optimisation (BO). A novel approximation is proposed for the information gain -- an information-theoretic quantity central to solving a range of BO problems, including noisy, multi-fidelity and batch optimisations across both continuous and highly-structured discrete spaces. Previously, these problems have been tackled separately within information-theoretic BO, each requiring a different sophisticated approximation scheme, except for batch BO, for which no computationally-lightweight information-theoretic approach has previously been proposed. GIBBON (General-purpose Information-Based Bayesian OptimisatioN) provides a single principled framework suitable for all the above, out-performing existing approaches whilst incurring substantially lower computational overheads. In addition, GIBBON does not require the problem's search space to be Euclidean and so is the first high-performance yet computationally light-weight acquisition function that supports batch BO over general highly structured input spaces like molecular search and gene design. Moreover, our principled derivation of GIBBON yields a natural interpretation of a popular batch BO heuristic based on determinantal point processes. Finally, we analyse GIBBON across a suite of synthetic benchmark tasks, a molecular search loop, and as part of a challenging batch multi-fidelity framework for problems with controllable experimental noise.

연구 동기 및 목표

• 구조적 이산 입력 공간에 대한 계산적으로軽量한 정보 이론적 확보 함수가 부족한 문제를 해결한다.
• 정보 수익 근사에 기반한 단일 원리적인 프레임워크 내에서 배치, 다중 정밀도, 연속 최적화의 처리를 통합한다.
• 기존의 최대값 엔트로피 검색(MES) 확장 기법의 한계를 극복한다. 기존 기법들은 복잡한 근사나 유클리드 공간에 국한된 제약이 있다.
• 분자 설계 및 하이퍼파rameter 튜닝과 같은 실제 과학 응용 분야에서 비용이 많이 들거나 노이즈가 많거나 병렬 평가가 필요한 상황에서 고성능 베이지안 최적화를 가능하게 한다.
• 기존의 히우리스틱적 배치 BO 방법에 기반한 결정성 점진 프로세스(DPP)에 대한 이론적으로 타당한 해석을 제공한다.

제안 방법

• 베이지안 최적화에서 정보 수익의 새로운 계산 가능 근사법을 제안하여 확보 함수의 효율적 계산을 가능하게 한다.
• 최대값 엔트로피 검색에 기반한 일반적 확보 함수를 유도하여, 배치, 다중 정밀도, 이산 구조적 입력을 모두 지원한다.
• 하한과 상한에 걸쳐 공유 길이 척도를 갖는 가우시안 프로세스 대체 모델을 활용하여 모델 안정성을 향상하고 파라미터 수를 감소시킨다.
• 고차원 수치 적분을 피하기 위해 정보 수익에 대한 계산적으로 효율적인 샘플 기반 근사법을 도입한다.
• 표준 최적화 루틴을 사용해 최적화할 수 있는 미분 가능 목적 함수로 확보 함수를 정식화한다.
• 검색 공간에 대한 기하학적 가정에서 분리함으로써 비유클리드 입력 공간에 대한 지원을 가능하게 한다.

실험 결과

연구 질문

• RQ1 낮은 계산 오버헤드로 배치, 다중 정밀도, 구조적 이산 최적화를 모두 지원하는 단일 통합 정보 이론적 확보 함수를 설계할 수 있는가?
• RQ2 제안된 정보 수익 근사법은 기존 방법 대비 계산 효율성과 최적화 성능 측면에서 어떻게 비교되는가?
• RQ3 이 프레임워크는 비용이 많이 들거나 노이즈가 많거나 병렬 평가가 필요한 실제 과학 문제에 얼마나 널리 적용될 수 있는가?
• RQ4 이 프레임워크는 기존의 히우리스틱적 배치 BO 방법에 기반한 결정성 점진 프로세스(DPP)에 대해 원리적인 해석을 제공하는가?
• RQ5 다양한 벤치마크 작업에서 수렴 속도와 최종 해의 품질 측면에서 기존 최신 기술 수준의 방법들을 초월할 수 있는가?

주요 결과

• GIBBON은 합성 벤치마크, 분자 검색, 다중 정밀도 최적화 작업 전반에서 기존 정보 이론적 BO 방법보다 수렴 속도와 최종 해 품질 측면에서 뛰어난 성능을 보였다.
• 기존 방법이 적용 불가능하거나 비용이 지나치게 높은 분자 설계 및 유전자 설계와 같은 구조적 이산 입력 공간에서의 배치 베이지안 최적화에서 최신 기술 수준의 성능을 달성했다.
• 특히 배치 및 다중 정밀도 설정에서 복잡한 수치 적분을 피하기 때문에, 기존 MES 기반 접근법 대비 계산 오버헤드를 크게 감소시켰다.
• 하이퍼파rameter 튜닝(예: IMDB 감성 분류) 및 강화 학습(Lunar Lander)과 같은 실제 응용 분야에서 뛰어난 성능을 보였으며, 평가 횟수를 줄여도 높은 정확도를 달성했다.
• GIBBON의 유도 과정은 DPP를 사용한 배치 BO의 히우리스틱적 접근에 대한 원리적인 정당성을 제공하며, 정보 이론적 원칙과 연결지었다.
• 제한된 초기 데이터 조건에서도 뛰어난 성능 유지를 보였으며, 공유 길이 척도를 갖는 안정적인 HGP 모델 덕분에 경쟁 방법(예: FASTCV)보다 더 적은 초기 평가 수를 요구했다.