[论文解读] Incorporating Expert Prior Knowledge into Experimental Design via Posterior Sampling

Cheng Li, Sunil Gupta+4 more|arXiv (Cornell University)|Feb 26, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 25被引用 5

一句话总结

本文提出了一种贝叶斯优化框架，通过在最优解位置上定义先验分布来融入专家关于全局最优解位置的先验知识，并利用后验抽样指导高效的实验设计。通过将专家直觉建模为对最优解的模糊先验，并结合观测数据进行更新，该方法在昂贵的黑箱优化中加速了收敛，显著提升了合成函数、超参数调优以及真实世界聚合物纤维实验中的性能。

ABSTRACT

Scientific experiments are usually expensive due to complex experimental preparation and processing. Experimental design is therefore involved with the task of finding the optimal experimental input that results in the desirable output by using as few experiments as possible. Experimenters can often acquire the knowledge about the location of the global optimum. However, they do not know how to exploit this knowledge to accelerate experimental design. In this paper, we adopt the technique of Bayesian optimization for experimental design since Bayesian optimization has established itself as an efficient tool for optimizing expensive black-box functions. Again, it is unknown how to incorporate the expert prior knowledge about the global optimum into Bayesian optimization process. To address it, we represent the expert knowledge about the global optimum via placing a prior distribution on it and we then derive its posterior distribution. An efficient Bayesian optimization approach has been proposed via posterior sampling on the posterior distribution of the global optimum. We theoretically analyze the convergence of the proposed algorithm and discuss the robustness of incorporating expert prior. We evaluate the efficiency of our algorithm by optimizing synthetic functions and tuning hyperparameters of classifiers along with a real-world experiment on the synthesis of short polymer fiber. The results clearly demonstrate the advantages of our proposed method.

研究动机与目标

• 解决在实验设计中将关于全局最优解位置的专家先验知识融入贝叶斯优化的挑战。
• 开发一种可处理的方法，用于表示和更新关于最优解的专家信念，方法是在最优解位置上使用先验分布。
• 通过有指导的采样加速昂贵优化任务中的收敛，从而提高实验设计的效率。
• 在合成函数、机器学习超参数调优以及真实世界聚合物纤维合成实验中验证该方法。

提出的方法

• 将关于全局最优解的专家知识表示为最优解位置 x* 上的先验分布 π(x*)。
• 使用高斯过程（GP）对未知函数 f(x) 建模，并在 f 上使用标准非信息性先验。
• 通过将 GP 后验与最优解上的专家先验 π(x*) 结合，推导出后验分布 p(x* | D_n, π(x*))。
• 从联合后验 p(x* | D_n, π(x*)) 中抽样，以通过后验抽样指导下一个评估点的选择。
• 在最优解的后验上应用汤普森采样，以在序列实验中平衡探索与利用。
• 通过新观测 D_n 迭代更新后验，以逐步改进最优解位置的估计。

实验结果

研究问题

• RQ1 如何在贝叶斯优化框架中形式化表示关于全局最优解位置的专家先验知识？
• RQ2 将此类先验知识纳入优化过程，对实验设计算法收敛性有何理论影响？
• RQ3 与标准贝叶斯优化相比，所提方法在收敛速度和样本效率方面表现如何？
• RQ4 当专家先验较弱或不够精确时，该方法是否仍能保持性能而不退化？
• RQ5 在昂贵函数评估的真实世界实验设计场景中，该方法表现如何？

主要发现

• 与标准贝叶斯优化相比，所提出的在最优解上结合专家先验的后验抽样方法，在合成函数优化中显著加速了收敛。
• 在随机森林和 XGBoost 的超参数调优中，该方法在更少评估次数下实现了更高性能，尤其当专家先验与真实最优解一致时效果更显著。
• 在真实世界的聚合物纤维合成实验中，该方法以更少的试验次数识别出最优配置，更快地实现了目标纤维比例（50–150 微米）的最大化。
• 即使专家先验较弱或略有偏差，该算法仍保持稳健，多轮实验中表现稳定。
• 在合成与真实世界场景中，该后验抽样方法均优于随机搜索和标准贝叶斯优化，展现出实际应用价值。
• 该方法有效利用了专家直觉，而无需对底层函数施加强假设，因此适用于真实实验领域。