[论文解读] A Lanczos-Stieltjes method for one-dimensional ridge function approximation and integration

Andrew Glaws, Paul G. Constantine|arXiv (Cornell University)|Aug 6, 2018

Probabilistic and Robust Engineering Design参考文献 60被引用 4

一句话总结

本文提出了一种Lanczos-Stieltjes方法，用于高效的一维脊函数逼近与积分，通过重复卷积估计输入线性组合的密度，并利用Lanczos迭代构建正交多项式。该方法在保持高精度的同时，相较于全维方法实现了指数级的计算成本节省，尤其在函数评估预算有限的情况下表现优异。

ABSTRACT

Many of the input-parameter-to-output-quantity-of-interest maps that arise in computational science admit a surprising low-dimensional structure, where the outputs vary primarily along a handful of directions in the high-dimensional input space. This type of structure is well modeled by a ridge function, which is a composition of a low-dimensional linear transformation with a nonlinear function. If the goal is to compute statistics of the output (e.g., as in uncertainty quantification or robust design) then one should exploit this low-dimensional structure, when present, to accelerate computations. We develop Gaussian quadrature and the associated polynomial approximation for one-dimensional ridge functions. The key elements of our method are (i) approximating the univariate density of the given linear combination of inputs by repeated convolutions and (ii) a Lanczos-Stieltjes method for constructing orthogonal polynomials and Gaussian quadrature.

研究动机与目标

• 通过利用输入-输出映射中的低维脊结构，解决高维积分中的维数灾难问题。
• 开发一种基于高斯求积的、针对一维脊函数的方法，以降低计算成本并保持精度。
• 将该方法扩展至近似可表示为脊函数的函数，从而在昂贵的科学计算模拟中实现实际应用。
• 提供一种数值稳定且高效的算法，仅通过最少的函数评估即可计算脊函数的积分与多项式逼近。

提出的方法

• 通过输入密度的重复卷积近似线性组合 $ u = oldsymbol{a}^T oldsymbol{x} $ 的单变量密度，从而实现高精度的求积构造。
• 应用Lanczos-Stieltjes算法，为脊变量 $ u $ 上的诱导测度生成正交多项式及相应的高斯求积规则。
• 利用所得求积节点与权重，构建脊轮廓 $ g(u) $ 的多项式逼近，从而实现高精度的积分与函数逼近。
• 通过两级近似方法将该方法扩展至近似脊函数：首先近似输入密度 $ q(u) $，然后应用Lanczos迭代构建多项式代理模型。
• 使用阴影图与 $ L^2 $ 误差分析验证脊逼近的质量，并确定最优多项式阶次。
• 利用稀疏网格类规则的嵌套结构与Lanczos迭代的层次化细化，实现收敛性研究与自适应细化。

实验结果

研究问题

• RQ1 能否有效将Lanczos-Stieltjes方法适配为在极少函数评估下构造一维脊函数的高斯求积规则？
• RQ2 在计算预算有限的情况下，一维脊函数逼近的精度与全维多项式逼近相比如何？
• RQ3 该方法在多高维输入-输出映射中能多大程度地利用低维结构以降低积分成本？
• RQ4 通过卷积近似诱导密度 $ q(u) $ 对最终求积与多项式逼近的精度有何影响？
• RQ5 该方法在处理近似而非精确脊函数时表现如何？

主要发现

• 使用Lanczos-Stieltjes方法进行一维脊函数逼近，在极少数函数评估下即达到最优性能，且在预算受限时优于全维逼近方法。
• 脊函数逼近的 $ L^2 $ 误差在约 $ 1.29 imes 10^{-2} $ 处趋于平缓，表明由于脊结构非精确性导致的逼近精度极限。
• 与全维积分相比，该方法实现了指数级的计算成本节省，尤其当函数表现出强脊结构时更为显著。
• 对近似脊函数的扩展是有效的：该算法仅通过极少的函数评估即可快速逼近固有的脊逼近误差。
• 阴影图与误差分析证实，即使输入维度较高，该方法仍能准确捕捉沿脊方向的函数行为。
• 该方法通过分别对每个脊分量应用该方法并求和结果，可实现投影追逐回归模型的精确积分，如公式 (57) 所示。