[논문 리뷰] Practical Bayesian Optimization for Model Fitting with Bayesian Adaptive Direct Search

Luigi Acerbi, Wei Ji|arXiv (Cornell University)|2017. 05. 11.

Advanced Bandit Algorithms Research인용 수 156

한 줄 요약

논문은 Bayesian Adaptive Direct Search (BADS)를 소개하며, MADS와 로컬 Gaussian process surrogate를 결합한 하이브리드 Bayesian 최적화 알고리즘이고, neuroscience의 모델 피팅 문제에서 많은 비-베이지안 최적화 기법들과 vanilla BO를 능가함을 보인다.

ABSTRACT

Computational models in fields such as computational neuroscience are often evaluated via stochastic simulation or numerical approximation. Fitting these models implies a difficult optimization problem over complex, possibly noisy parameter landscapes. Bayesian optimization (BO) has been successfully applied to solving expensive black-box problems in engineering and machine learning. Here we explore whether BO can be applied as a general tool for model fitting. First, we present a novel hybrid BO algorithm, Bayesian adaptive direct search (BADS), that achieves competitive performance with an affordable computational overhead for the running time of typical models. We then perform an extensive benchmark of BADS vs. many common and state-of-the-art nonconvex, derivative-free optimizers, on a set of model-fitting problems with real data and models from six studies in behavioral, cognitive, and computational neuroscience. With default settings, BADS consistently finds comparable or better solutions than other methods, including `vanilla' BO, showing great promise for advanced BO techniques, and BADS in particular, as a general model-fitting tool.

연구 동기 및 목표

• 그레이디언트가 이용 불가능한 경우가 있을 수 있는 복잡하고 노이즈가 많은 계산 신경과학 모델의 피팅을 위해 Bayesian 최적화를 사용하도록 동기를 부여한다.
• 모델 피팅에 바로 사용할 수 있는 실용적이고 저오버헤드의 BO-enabled 도구(BADS)를 개발한다.
• 인위적 데이터와 실제 데이터의 모델들에 대해 일반적이고 최첨단 미분불가능 최적화 알고리즘들과 BADS를 벤치마크하고, 결정적 및 확률적 평가에서의 성능을 평가한다.]
• method':['Bayesian Adaptive Direct Search (BADS)를 제안하는데, 이는 Mesh Adaptive Direct Search (MADS)와 로컬 가우시안 프로세스 대리 최적화의 하이브리드이다.','목적함수를 모델링하기 위해 ARD Rational Quadratic 커널을 갖는 로컬 GP를 사용하고 탐색 중에 LCB (lower confidence bound) 획득 함수를 사용한다.','GP 기반 탐색을 MADS 탐색 단계에 통합하고, 수렴성과 강건성을 보장하기 위해 GP에 기반한 폴 스테이지를 사용한다.','현 전자의 주변에 로컬 GP 학습 세트(cache)를 유지하고, 거리 재가중과 반경 기반 포함 규칙으로 효율성을 높인다.','소음이 있는 경우 GP 분위수를 사용하여 불확실성을 다루고, GP 기반 분위수 함수를 통해 평가된 활성 incumbent 세트를 유지한다.','GP 하이퍼파라미터에 대한 기본 하이퍼파라미터와 경험적 베이즈 사전(prior)을 제공하고, 로컬 풍경에 맞게 주기적으로 재적합한다.]
• research_questions':['Bayesian 최적화와 직접 탐색 메쉬를 혼합한 하이브리드 최적화 프레임워크가 중간 정도의 계산 비용으로 모델 피팅 작업에서 경쟁력 있는 성능을 달성할 수 있는가?','일반 비선형 최적화 기법과 vanilla BO에 비해 결정적이고 노이즈가 있는(확률적) 목적 평가에 대해 BADS가 견고한 성능을 제공하는가?','오버헤드와 사용자 친화성 측면에서 실제 신경과학 모델 피팅 문제에 대해 BADS가 실용적인가(튜닝 없이 바로 사용할 수 있는가)?'],
• key_findings':['BADS는 인공 및 실제 모델 피팅 문제 전반에서 다른 최적화 기법들, 포함하여 vanilla BO와의 성능 차이를 넘나들며 일관되게 비슷하거나 우수한 성능을 보인다.','BADS는 무잡음 bbob09 함수에서 경쟁력을 유지하며 다른 방법들이 어려움을 겪는 이분산성 노이즈에 대한 강건성을 보여준다.','실제 ccn17 모델 피팅 문제에서 BADS는 GP 하이퍼파라미터 적합으로 인한 오버헤드에도 불구하고 우수한 효율을 달성하며, 여전히 CMA-ES 및 fmincon 변종을 종종 능가한다.','Vanilla Bayesian optimization (bayesopt)은 테스트된 모델 피팅 문제들에서 BADS 및 다른 방법들에 비해 상당히 저조한 성능을 보인다.','저자들은 기본 설정으로 오픈 MATLAB 패키지로 BADS를 제공하여 연구자들이 즉시 사용할 수 있게 한다.'],
• table_headers:
• table_rows:

제안 방법

• 제목

실험 결과

연구 질문

• RQ1