[论文解读] A Spline-Based Approach to Uncertainty Quantification and Density Estimation

Adi Ditkowski, Gadi Fibich+1 more|arXiv (Cornell University)|Mar 29, 2018

Probabilistic and Robust Engineering Design被引用 1

一句话总结

该论文提出了一种基于样条的新型算法，用于在含噪声的数学模型中进行不确定性量化与密度估计，其样本量的收敛速度至少达到三次方，优于谱方法和统计方法——尤其在小样本情况下表现更优。该方法即使在非光滑输出量下也能实现对矩和密度的稳健估计，已在非线性光学和计算流体动力学应用中得到验证。

ABSTRACT

In mathematical models with uncertainties and noise, the calculation of a deterministic quantity of interest (model output) is often replaced by the calculation of its moments (mean, standard deviation, etc.) and probability density function. Standard methods for these tasks are either statistical (Monte-Carlo, kernel density estimators, etc.) or spectral approximations (e.g., generalized polynomial chaos). In this paper we present a novel spline-based algorithm for these tasks. Our method offers significant advantages over the existing methods for density estimation, including a guaranteed convergence rate which is at least cubic in the number of samples. Furthermore, although spectral methods can approximate moments with exponential accuracy, the spline-based approximation is often more accurate when the sample size is small. We also show how to approximate the moments and density of non-smooth quantities of interest, which is often prohibitive in spectral methods. Finally, we demonstrate our algorithm for problems in nonlinear optics and computational fluid dynamics.

研究动机与目标

• 解决现有方法在样本量较小时进行不确定性量化时的局限性，尤其是在输出量非光滑的情况下。
• 开发一种方法，确保在密度估计和矩逼近中实现保证的收敛速率，尤其适用于含噪声或复杂模型。
• 为谱方法（如广义多项式混沌）提供一种稳健替代方案，后者在处理非光滑输出时表现不佳且对光滑性要求较高。
• 在不依赖模型输出强光滑性假设的前提下，实现对概率密度函数和统计矩的精确估计。
• 在非线性光学和计算流体动力学等实际应用中展示该方法的有效性。

提出的方法

• 该方法利用B样条构造基于样本数据的底层概率密度函数的分段多项式逼近。
• 利用样条的逼近能力，实现样本数量至少三次方的收敛速度，确保误差快速衰减。
• 通过积分样条逼近的密度函数来计算矩（如均值、方差等），从而实现高效且精确的统计推断。
• 通过局部加密和自适应样条基选择处理非光滑输出量，避免对全局光滑性的依赖。
• 在高维设置中，结合数值积分与最小二乘拟合，以在精度与计算效率之间取得平衡。
• 将样条逼近与统计采样相结合，形成一种混合方法，具有稳定性与可扩展性，适用于实际工程模型。

实验结果

研究问题

• RQ1 基于样条的方法在密度估计中是否能实现比传统统计方法和谱方法更快的收敛速率？
• RQ2 当样本数量较小时，该方法在估计矩和密度时的表现如何？
• RQ3 该方法在处理谱方法难以应对的非光滑输出量方面，其适用范围有多大？
• RQ4 在非线性光学和流体动力学等真实物理模型中，该样条方法的准确性和稳定性如何？
• RQ5 该方法是否能在不依赖模型输出强光滑性假设的前提下保持高精度？

主要发现

• 基于样条的方法在样本数量上实现了至少三次方的收敛速度，其收敛速率显著优于标准统计方法。
• 在小样本情况下，该方法在非光滑输出时的准确度始终高于广义多项式混沌等谱方法，表现更优。
• 该方法成功估计了非光滑输出量的矩和概率密度函数，而这些量通常难以通过谱方法处理。
• 该算法在非线性光学和计算流体动力学问题中表现出稳健性能，证实了其实际适用性。
• B样条的使用使得即使在高维或噪声较大的环境中，也能实现稳定且精确的密度估计，且无需输出具有全局光滑性。
• 该方法的收敛速率具有理论保证，为不确定性量化提供了可靠替代方案，优于启发式或数据驱动方法。