[论文解读] Sensitivity analysis from a single input/output sample

Sébastien Da Veiga, Fabrice Gamboa+3 more|arXiv (Cornell University)|Mar 31, 2023

Probabilistic and Robust Engineering DesignDecision Sciences参考文献 45被引用 3

一句话总结

本文提出了一种基于核方法的Sobol’指标估计器，仅需单个输入/输出样本，通过近邻密度估计与核平滑技术，实现渐近正态性与一致的方差估计。核心贡献是在最小矩条件假设下，为该估计器建立了中心极限定理，从而在计算开销极小的情况下实现可靠的敏感性分析。

ABSTRACT

The main objective of this paper is to estimate optimally Sobol' indices at any order when a unique input/output i.i.d.\ sample is available. Our approach stands on three main ingredients: semi-parametric estimation theory, high-order kernel estimation (inspired by the paper of Doksum in 1995), and mirror-type transformations as introduced in Bertin 2020 and Pujol 2022. We propose two different estimators. We prove that these estimators are asymptotically normal and efficient. Furthermore, we illustrate their numerical properties on standard examples.

研究动机与目标

• 开发一种Sobol’指标的敏感性分析估计器，仅需单个输入/输出样本，避免昂贵的重复模型评估。
• 在最小矩条件（如 $\mathbb{E}[Y^4] < \infty$）下建立理论保证——特别是中心极限定理，确保估计器的渐近正态性。
• 在无需嵌套或重复设计的情况下，实现对一阶与总阶Sobol’指标的高效估计，降低计算成本。
• 将现有的近邻与核方法扩展至处理多变量输入与未知输入密度，提升高维场景下的鲁棒性。

提出的方法

• 该方法基于单个输入-输出对样本，构建 $\mathbb{E}[\mathbb{E}[Y|X]^2]$ 的核估计器，通过在输入变量上应用核平滑以估计条件期望。
• 采用乘积核结构并结合带宽选择，以平衡偏差与方差，确保一致性和渐近正态性。
• 利用基于近邻密度估计的重加权方案，校正抽样变异性，替代对独立设计点或模型重复的依赖。
• 在假设 $\mathbb{E}[Y^4] < \infty$ 下推导出中心极限定理，证明估计器以 $\sqrt{n}$ 速率收敛于正态分布。
• 通过非参数核密度估计方法估计未知输入密度 $f_X$，使方法适用于输入分布事先未知的场景。
• 理论依据包括：通过一维正交多项式基核的张量化构造 $d$ 维空间中阶数为 $k$ 的核，确保满足矩条件。

实验结果

研究问题

• RQ1 能否仅用单个输入/输出样本，实现Sobol’指标的一致估计并附带理论保证？
• RQ2 所提出的核估计器在最小矩假设下是否能实现渐近正态性？
• RQ3 当输入密度未知或被估计时，该估计器在偏差与方差方面表现如何？
• RQ4 该方法能否在无需重复或嵌套设计的情况下，高效估计一阶与总阶Sobol’指标？
• RQ5 带宽选择与核阶数对收敛速率与有限样本性能有何影响？

主要发现

• 所提估计器在最小假设 $\mathbb{E}[Y^4] < \infty$ 下实现渐近正态性，确保对敏感性指标的可靠推断。
• 为 $\mathbb{E}[\mathbb{E}[Y|X]^2$ 的估计器建立了中心极限定理，该量是Sobol’指标的核心组成部分，支持置信区间的构建。
• 该方法仅需单一样本的输入-输出对，无需重复模型评估或复杂的实验设计（如Pick-Freeze方法）。
• 即使输入密度 $f_X$ 未知并以非参数方式估计，估计器仍保持一致性和渐近正态性，且密度估计器的收敛性可通过带宽选择加以控制。
• 理论分析表明，当维度 $d \leq 3$ 时，估计器的偏差可忽略不计，且通过精心设计的带宽与核结构，方法在有限样本下表现良好。
• 提供了一种构造 $d$ 维空间中任意阶数 $k$ 的多变量核的实用方法，通过一维正交多项式基核的张量化，确保满足矩条件。