[论文解读] On optimal experimental designs for Sparse Polynomial Chaos Expansions

Noura Fajraoui, Stefano Marelli+1 more|arXiv (Cornell University)|Mar 15, 2017

Probabilistic and Robust Engineering Design被引用 13

一句话总结

本文提出一种用于稀疏多项式混沌展开（PCE）的序列自适应实验设计（ED）策略，通过S值准则迭代地在初始空间填充设计基础上增加样本点，以在计算预算约束下最大化PCE的准确性。与D-optimality、最大最小设计和标准采样相比，该方法在高维问题中表现出更优的准确性和稳定性。

ABSTRACT

Uncertainty quantification (UQ) has received much attention in the literature in the past decade. In this context, Sparse Polynomial chaos expansions (PCE) have been shown to be among the most promising methods because of their ability to model highly complex models at relatively low computational costs. A least-square minimization technique may be used to determine the coefficients of the sparse PCE by relying on the so called experimental design (ED), i.e. the sample points where the original computational model is evaluated. An efficient sampling strategy is then needed to generate an accurate PCE at low computational cost. This paper is concerned with the problem of identifying an optimal experimental design that maximizes the accuracy of the surrogate model over the whole input space within a given computational budget. A novel sequential adaptive strategy where the ED is enriched sequentially by capitalizing on the sparsity of the underlying metamodel is introduced. A comparative study between several state-of-the-art methods is performed on four numerical models with varying input dimensionality and computational complexity. It is shown that the optimal sequential design based on the S-value criterion yields accurate, stable and computationally efficient PCE.

研究动机与目标

• 开发一种最优实验设计策略，以在固定计算预算下最大化稀疏多项式混沌展开（PCE）在整个输入空间中的准确性。
• 解决使用最小二乘回归估计PCE系数时高效选择样本点的挑战。
• 研究基于S值和D-optimality等最优性准则的序列自适应ED策略在与空间填充和最大最小设计比较下的性能表现。
• 确定用于序列PCE构建的最优初始设计大小和增强步长（$N_{\text{init}}$，$N_{\text{add}}$）。
• 评估所提方法在不同输入维度和复杂度模型中的鲁棒性和可扩展性。

提出的方法

• 该方法基于最小角度回归（LARS）算法，采用基于度自适应的稀疏PCE，从可用样本中识别最优多项式基。
• 利用空间填充技术（如拉丁超立方抽样）生成初始实验设计，以确保对输入域的广泛覆盖。
• 通过依赖当前稀疏PCE基的最优性准则，逐步增加新点来丰富ED。
• 评估了两种最优性准则：D-optimality（最大化信息矩阵行列式）和S值（最大化信息矩阵列的正交性）。
• S值准则用于引导选择能改善最小二乘问题条件性和稳定性的新样本点。
• 开展参数研究，评估$N_{\text{init}}$和$N_{\text{add}}$对四个基准模型最终PCE准确性的影。

实验结果

研究问题

• RQ1 与其它采样策略相比，序列S值最优设计在PCE准确性和稳定性方面表现如何？
• RQ2 在序列PCE构建中，初始设计大小（$N_{\text{init}}$）与增强步长（$N_{\text{add}}$）之间最优平衡是什么？
• RQ3 在高维问题中，S值准则是否优于D-optimality和最大最小距离准则？
• RQ4 不同实验设计策略在不同输入维度和计算复杂度的模型中表现如何？
• RQ5 序列自适应方法是否能显著提升PCE准确性，同时最小化昂贵模型评估次数？

主要发现

• 序列S值最优设计（$Seq$ S-optimal）在所有测试案例中均实现了最高的准确性和稳定性，显著优于其他策略。
• 序列D-optimality方法表现欠佳，表明D-optimality不适用于序列稀疏PCE构建。
• 基于最大最小距离的序列设计在低至中等输入维度（≤10）下表现良好，但在高维情况下表现出不稳定行为。
• 不存在适用于$N_{\text{init}}$和$N_{\text{add}}$选择的通用经验法则；最优值取决于模型的稀疏性和复杂度，对于Ishigami函数而言，更大的初始设计能获得更好结果。
• S值准则能有效利用PCE基的稀疏性，指导选择具有信息量的样本点，从而提升泛化误差性能。
• 所提出的序列自适应策略显著降低了相对泛化误差，在包括一维扩散问题和桁架结构在内的多种模型中表现出强鲁棒性。