[论文解读] Recursive co-kriging model for Design of Computer experiments with multiple levels of fidelity with an application to hydrodynamic

Loïc Le Gratiet|arXiv (Cornell University)|Oct 2, 2012

Advanced Multi-Objective Optimization Algorithms参考文献 16被引用 17

一句话总结

本文提出了一种用于多保真度计算机实验的递归共克里金模型，该模型在保持原始Kennedy-O'Hagan共克里金框架相同预测均值和方差的同时，降低了计算复杂度。通过将多保真度模型分解为按保真度层级顺序进行的独立克里金法，该方法实现了闭式解和快速交叉验证，显著提升了在水动力学模拟中大规模数据集的可扩展性。

ABSTRACT

In many practical cases, a sensitivity analysis or an optimization of a complex time consuming computer code requires to build a fast running approximation of it - also called surrogate model. We consider in this paper the problem of building a surrogate model of a complex computer code which can be run at different levels of accuracy. The co-kriging based surrogate model is a promising tool to build such an approximation. The idea is to improve the surrogate model by using fast and less accurate versions of the code. We present here a new approach to perform a multi-fidelity co-kriging model which is based on a recursive formulation. The strength of this new method is that the co-kriging model is built through a series of independent kriging models. From them, some properties of classical kriging models can naturally be extended to the presented co-kriging model such as a fast cross-validation procedure. Moreover, based on a Bayes linear formulation, an extension of the universal kriging equations are provided for the co-kriging model. Finally, the proposed model has the advantage to reduce the computational complexity compared to the previous models. The multi-fidelity model is successfully applied to emulate a hydrodynamic simulator. This real example illustrates the efficiency of the recursive model.

研究动机与目标

• 开发一种计算高效的代理建模方法，用于具有不同精度水平的多保真度计算机模拟。
• 在降低计算负担的同时，保持与原始共克里金模型相当的预测准确性。
• 在通用共克里金法中实现预测均值和方差的闭式表达式。
• 提出一种适用于多保真度共克里金模型的快速交叉验证程序。
• 将该方法应用于实际的水动力学模拟，以展示其可扩展性和准确性。

提出的方法

• 该方法采用递归公式，通过每个保真度层级独立执行一次克里金法，构建s级共克里金模型。
• 它将联合协方差结构分解为分块组件，从而实现子矩阵的独立求逆，而非对单一大型矩阵求逆。
• 利用分块矩阵求逆和全期望与全方差定律，推导出预测均值和方差。
• 通过递归条件期望，推导出通用共克里金法预测均值和方差的闭式表达式。
• 通过利用递归矩阵求逆和留一法估计，将Dubrule（1983）提出的快速交叉验证程序扩展至多保真度场景。
• 参数估计在每一层级独立进行，从而降低病态性并提高数值稳定性。

实验结果

研究问题

• RQ1 递归形式的多保真度共克里金法能否实现与原始共克里金模型相同的预测准确性？
• RQ2 递归方法是否能为通用共克里金法的预测均值和方差提供闭式表达式？
• RQ3 快速交叉验证能否有效扩展至多保真度共克里金模型？
• RQ4 与标准共克里金方法相比，递归方法是否降低了计算复杂度？
• RQ5 在复杂的水动力学模拟器上，递归共克里金模型在实际应用中表现如何？

主要发现

• 递归共克里金模型产生的预测均值和方差与原始Kennedy-O'Hagan共克里金模型完全一致。
• 推导出了通用共克里金法预测均值和方差的闭式表达式，实现了分析计算。
• 开发了一种快速交叉验证程序，显著降低了模型验证的计算成本。
• 通过将大型矩阵求逆分解为按保真度层级独立的小型求逆，降低了计算复杂度。
• 该模型成功应用于水动力学模拟器，展示了在大规模数据集上的可扩展性和准确性。
• 递归方法通过避免使用病态大型协方差矩阵，提高了数值稳定性。