[论文解读] Polynomial-Chaos-based Kriging

R. Schoebi, Bruno Sudret+1 more|arXiv (Cornell University)|Feb 13, 2015

Probabilistic and Robust Engineering Design参考文献 64被引用 3

一句话总结

本文提出PC-Kriging，一种新颖的非侵入式代理建模技术，结合多项式混沌展开（PCE）进行全局逼近与Kriging进行局部修正。通过使用自适应最小角回归算法选取一组稀疏正交多项式，并将其整合进通用Kriging框架，PC-Kriging在实验设计有限的情况下实现了卓越的精度，优于单独使用PCE或Kriging的基准函数表现。

ABSTRACT

Computer simulation has become the standard tool in many engineering fields for designing and optimizing systems, as well as for assessing their reliability. To cope with demanding analysis such as optimization and reliability, surrogate models (a.k.a meta-models) have been increasingly investigated in the last decade. Polynomial Chaos Expansions (PCE) and Kriging are two popular non-intrusive meta-modelling techniques. PCE surrogates the computational model with a series of orthonormal polynomials in the input variables where polynomials are chosen in coherency with the probability distributions of those input variables. On the other hand, Kriging assumes that the computer model behaves as a realization of a Gaussian random process whose parameters are estimated from the available computer runs, i.e. input vectors and response values. These two techniques have been developed more or less in parallel so far with little interaction between the researchers in the two fields. In this paper, PC-Kriging is derived as a new non-intrusive meta-modeling approach combining PCE and Kriging. A sparse set of orthonormal polynomials (PCE) approximates the global behavior of the computational model whereas Kriging manages the local variability of the model output. An adaptive algorithm similar to the least angle regression algorithm determines the optimal sparse set of polynomials. PC-Kriging is validated on various benchmark analytical functions which are easy to sample for reference results. From the numerical investigations it is concluded that PC-Kriging performs better than or at least as good as the two distinct meta-modeling techniques. A larger gain in accuracy is obtained when the experimental design has a limited size, which is an asset when dealing with demanding computational models.

研究动机与目标

• 解决在不确定性量化与可靠性分析中，对高保真模型进行数万甚至数百万次运行所导致的计算不可行性问题。
• 通过结合PCE与Kriging在全局逼近与局部修正方面的优势，克服单一PCE或Kriging方法的局限性。
• 开发一种统一的、非侵入式的元建模方法，充分利用全局多项式趋势与局部高斯过程相关性。
• 通过自适应算法最优选择一组稀疏正交多项式，提升代理模型精度，尤其适用于小样本实验设计。
• 通过降低模型评估成本并保持高预测精度，实现高效可靠性分析与优化。

提出的方法

• 通过将PCE作为趋势分量、Kriging作为随机校正项，构建混合元模型，形成通用Kriging模型。
• 采用最小角回归（LAR）算法，迭代选择最能反映计算模型全局行为的稀疏正交多项式集合。
• 实现两种变体：顺序PC-Kriging（SPC-Kriging），按顺序逐个添加多项式；最优PC-Kriging（OPC-Kriging），基于留一法（LOO）误差选择最优子集。
• 在LAR驱动的选择过程中，每一步均使用最大似然估计（MLE）估计Kriging相关函数的超参数。
• 将留一法（LOO）误差用作泛化误差的代理指标，指导最优多项式集合的选择，在不损失精度的前提下最小化模型复杂度。
• 使用大规模验证集在具有已知参考解的解析基准函数上验证该方法，计算相对泛化误差。

实验结果

研究问题

• RQ1 将PCE与Kriging整合为单一代理模型，是否能在小样本实验设计下，相比单独使用任一方法显著提升精度？
• RQ2 通过最小角回归算法自适应选择稀疏正交多项式集合，对最终元模型的性能与复杂度有何影响？
• RQ3 基于LOO误差选择最优多项式子集的OPC-Kriging变体，是否在精度与复杂度方面优于逐次添加多项式的SPC-Kriging？
• RQ4 该混合PC-Kriging模型在保持高预测精度的前提下，能在多大程度上减少不确定性量化任务中所需的模型评估次数？
• RQ5 在不同基准函数与样本量下，PC-Kriging在泛化误差方面与普通Kriging和PCE相比表现如何？

主要发现

• PC-Kriging在所有测试的基准函数中，始终优于或等同于单独使用的PCE与Kriging，尤其在小样本实验设计下表现突出。
• OPC-Kriging在保持或提升精度的同时，显著减少了趋势分量中的多项式数量，从而降低了模型复杂度。
• 对于Ishigami函数，当使用N=128个样本时，仅采用56个多项式中的一半（即27个）便得到与完整多项式集几乎同样准确的元模型，表明在不损失精度的前提下实现了显著的复杂度降低。
• 留一法（LOO）误差与真实相对泛化误差高度吻合，验证了其作为选择最优多项式集合的可靠准则。
• 自适应实验设计策略——在感兴趣区域（如可靠性分析中的极限状态面附近）添加样本——可进一步提升关键区域的模型精度。
• 当计算模型代价高昂时，该方法尤为有利，因其仅需极少的模型评估即可实现高精度，适用于可靠性分析与优化任务。