[论文解读] Modifier Adaptation Meets Bayesian Optimization and Derivative-Free Optimization.

Ehecatl Antonio del Rio‐Chanona, Panagiotis Petsagkourakis+3 more|arXiv (Cornell University)|Sep 18, 2020

Advanced Control Systems Optimization参考文献 69被引用 5

一句话总结

本文提出了一种新颖的修正适应框架，结合贝叶斯优化与无导数方法，以解决不确定过程中实时优化的系统-模型失配问题。通过利用高斯过程回归建模失配，并采用信赖域策略管理风险，该方法利用获取函数引导高效且安全的探索，在半间歇光生物反应器案例研究中表现出更优性能。

ABSTRACT

This paper investigates a new class of modifier-adaptation schemes to overcome plant-model mismatch in real-time optimization of uncertain processes. The main contribution lies in the integration of concepts from the areas of Bayesian optimization and derivative-free optimization. The proposed schemes embed a physical model and rely on trust-region ideas to minimize risk during the exploration, while employing Gaussian process regression to capture the plant-model mismatch in a non-parametric way and drive the exploration by means of acquisition functions. The benefits of using an acquisition function, knowing the process noise level, or specifying a nominal process model are illustrated on numerical case studies, including a semi-batch photobioreactor optimization problem.

研究动机与目标

• 解决不确定过程中实时优化的系统-模型失配问题。
• 在不确定性优化探索过程中降低风险。
• 通过利用物理模型和失配的非参数建模，提升收敛性和鲁棒性。
• 开发基于信赖域的框架，利用高斯过程回归确保安全探索。
• 评估获取函数、噪声水平知识以及名义模型设定对优化性能的影响。

提出的方法

• 该方法以物理模型作为优化的基准。
• 利用高斯过程回归，从实验数据中非参数化地建模系统-模型失配。
• 应用信赖域约束以限制探索步长，确保稳定性和风险最小化。
• 基于高斯过程后验分布推导的获取函数，指导新优化点的选择。
• 该方案通过期望改进或类似标准，动态平衡探索与利用。
• 该方法迭代应用，每次实验后更新高斯过程模型和信赖域。

实验结果

研究问题

• RQ1 如何通过贝叶斯优化增强修正适应，以减少实时过程优化中的不确定性？
• RQ2 将过程噪声水平知识纳入优化对性能和收敛性有何影响？
• RQ3 指定名义过程模型对优化框架的效率和鲁棒性有何影响？
• RQ4 与随机或基于梯度的策略相比，获取函数在多大程度上提升了探索效率？
• RQ5 信赖域约束能否有效限制探索过程中的风险，同时保持对最优解的收敛？

主要发现

• 高斯过程回归的集成实现了对系统-模型失配的精确、非参数化建模，且无需参数假设。
• 引入过程噪声水平知识显著提升了优化过程的可靠性和收敛性。
• 使用获取函数可实现更快收敛，并减少所需实验次数，优于基线策略。
• 信赖域约束有效限制了探索步长，降低了不稳定或发散优化轨迹的风险。
• 所提方法在半间歇光生物反应器案例研究中表现出卓越性能，展示了在不确定性下的鲁棒性与高效性。
• 指定名义过程模型可提升初始收敛速度，并减少早期迭代中对大量数据收集的需求。