[论文解读] Bayesian Optimisation for Sequential Experimental Design with Applications in Additive Manufacturing

Mimi Zhang, Andrew Parnell+2 more|arXiv (Cornell University)|Jul 27, 2021

Advanced Multi-Objective Optimization Algorithms参考文献 37被引用 16

一句话总结

本文为增材制造（AM）中顺序实验设计的贝叶斯优化（BO）提供了全面指南，展示了其在减少昂贵实验次数方面的高效性。文中引入了基于偏斜高斯过程的偏好型输出BO方法，对比了开源BO库，并提供了代码示例以加速数字制造领域中的应用。

ABSTRACT

Bayesian optimization (BO) is an approach to globally optimizing black-box objective functions that are expensive to evaluate. BO-powered experimental design has found wide application in materials science, chemistry, experimental physics, drug development, etc. This work aims to bring attention to the benefits of applying BO in designing experiments and to provide a BO manual, covering both methodology and software, for the convenience of anyone who wants to apply or learn BO. In particular, we briefly explain the BO technique, review all the applications of BO in additive manufacturing, compare and exemplify the features of different open BO libraries, unlock new potential applications of BO to other types of data (e.g., preferential output). This article is aimed at readers with some understanding of Bayesian methods, but not necessarily with knowledge of additive manufacturing; the software performance overview and implementation instructions are instrumental for any experimental-design practitioner. Moreover, our review in the field of additive manufacturing highlights the current knowledge and technological trends of BO. This article has a supplementary material online.

研究动机与目标

• 展示贝叶斯优化（BO）在减少增材制造（AM）中实验成本并提高效率方面的有效性，通过最小化实验次数实现。
• 解决尽管BO在材料科学及其他领域已证明成功，但在AM中仍被低估使用的问题。
• 为工程师和研究人员提供一种实用的、基于代码的指南，以在实际AM实验设计中实施BO。
• 将BO扩展至非标准数据类型，如偏好型输出（例如成对比较），从而在AM中实现更广泛的应用。
• 基于关键实际标准对比开源BO库，帮助从业者进行软件选型。

提出的方法

• 利用贝叶斯优化（BO）通过使用概率代理模型平衡探索与利用，按顺序选择最具信息量的实验。
• 对实值输出采用高斯过程（GP）代理模型，对偏好型输出采用偏斜高斯过程（SkewGP），其中仅可获得成对偏好信息。
• 应用SkewGP库对不确定性进行建模，并基于偏好型数据预测下一个最优实验配置。
• 在BO框架内集成批量优化与约束优化，以处理多保真度和多目标AM设计问题。
• 采用一个真实的AM案例研究，输入为激光功率、扫描速度和层厚，输出为表面粗糙度，初始21次实验来自Taguchi L16设计。
• 从实验数据生成偏好列表以指导使用SkewGP的BO，实现实验中无需精确测量即可进行优化。

实验结果

研究问题

• RQ1 贝叶斯优化如何减少选择性激光熔融增材制造中优化表面粗糙度所需的实验次数？
• RQ2 在AM应用中选择开源贝叶斯优化库时，关键的实际考虑因素是什么？
• RQ3 贝叶斯优化如何适应处理偏好型输出数据（如成对比较）而非精确测量？
• RQ4 在收敛速度、可扩展性及约束支持方面，主流开源BO库之间的性能差异如何？
• RQ5 贝叶斯优化能否有效应用于多保真度和多目标AM实验设计，以加速数字制造？

主要发现

• 贝叶斯优化通过基于先前数据智能选择最具信息量的下一次实验，显著减少了AM中所需的实验次数。
• 偏斜高斯过程（SkewGP）模型使基于偏好型数据的BO成为可能，即使仅能获得实验结果的相对排名，也能实现优化。
• 本研究识别并对比了九项选择BO软件的实际标准，SkewGP库在支持混合类型输出（包括无效实验标志）方面表现优异。
• 所提出方法成功预测出下一个最优实验点为（212.93 W, 28.89 μm, 743.46 mm/s），基于偏好型数据，展示了其实际适用性。
• 对BO库的对比分析表明，性能因使用场景而异，部分库在批量优化和约束设置中表现更优。
• 尽管BO在AM实验设计中具有巨大潜力，但其集成仍被低估，本文提供了一套即用型参考，可加速智能制造中的应用。