[论文解读] Practical Bayesian Optimization for Model Fitting with Bayesian Adaptive Direct Search

Luigi Acerbi, Wei Ji|arXiv (Cornell University)|May 11, 2017

Advanced Bandit Algorithms Research被引用 156

一句话总结

本文提出 Bayesian Adaptive Direct Search (BADS)，一种结合 MADS 和局部高斯过程代理的混合贝叶斯优化算法，并展示其在神经科学中用于模型拟合的问题上优于许多非贝叶斯优化器和纯 BO。

ABSTRACT

Computational models in fields such as computational neuroscience are often evaluated via stochastic simulation or numerical approximation. Fitting these models implies a difficult optimization problem over complex, possibly noisy parameter landscapes. Bayesian optimization (BO) has been successfully applied to solving expensive black-box problems in engineering and machine learning. Here we explore whether BO can be applied as a general tool for model fitting. First, we present a novel hybrid BO algorithm, Bayesian adaptive direct search (BADS), that achieves competitive performance with an affordable computational overhead for the running time of typical models. We then perform an extensive benchmark of BADS vs. many common and state-of-the-art nonconvex, derivative-free optimizers, on a set of model-fitting problems with real data and models from six studies in behavioral, cognitive, and computational neuroscience. With default settings, BADS consistently finds comparable or better solutions than other methods, including `vanilla' BO, showing great promise for advanced BO techniques, and BADS in particular, as a general model-fitting tool.

研究动机与目标

• 动机：在无法获得梯度的情况下，为复杂且带噪声的计算神经科学模型的拟合，推动使用贝叶斯优化。
• 开发一个实用、开销低的启用贝叶斯优化的工具（BADS），可开箱即用用于模型拟合。
• 在人工数据和真实数据/模型上对比 BADS 与常见及最先进的无导数优化器，评估在确定性与随机评估下的性能。

提出的方法

• 提出 Bayesian Adaptive Direct Search (BADS)，它是 Mesh Adaptive Direct Search (MADS) 与局部高斯过程代理优化的混合。
• 在搜索过程中使用具有 ARD 有理二次核的局部 GP 来建模目标函数，并使用 LCB（下置信界）采集函数。
• 在 MADS 的搜索阶段整合基于 GP 的搜索，并使用 GP 信息驱动的投票阶段以确保收敛性与鲁棒性。
• 在 incumbent 周围维护一个局部 GP 训练集（缓存），通过距离重新加权并使用基于半径的包含规则以提高效率。
• 在存在噪声时使用 GP 分位数来处理不确定性，并维持通过基于 GP 的分位数函数评估的活跃 incumbent 集合。
• 提供默认超参数和 GP 超参数的经验贝叶斯先验；定期重新拟合以适应局部景观。

实验结果

研究问题

• RQ1 结合贝叶斯优化与直接搜索网格的混合优化框架是否能在中等计算成本的模型拟合任务上实现竞争性性能？
• RQ2 与常见非线性优化器和纯 BO 相比，BADS 是否在确定性和带噪声的目标评估下都具有鲁棒性？
• RQ3 就开销和易用性而言，BADS 是否适用于现实世界的神经科学模型拟合问题（开箱即用且无需调参）？

主要发现

• BADS 在人工和真实模型拟合问题中始终达到或超过其他优化器的表现，包括 vanilla BO。
• BADS 在无噪声的 bbob09 函数上保持竞争力，并在其他方法难以应对异方差噪声时表现出鲁棒性。
• 在真实的 ccn17 模型拟合问题上，BADS 以较小的开销实现良好效率，主要开销来自 GP 超参数拟合，尽管如此通常仍优于 CMA-ES 和 fmincon 的变体。
• 在测试的模型拟合问题上，纯贝叶斯优化（bayesopt）显著落后于 BADS 和其他方法。
• 作者提供了一个带默认设置的开源 MATLAB 软件包 BADS，便于研究人员开箱即用。