[论文解读] Kernel-based ANOVA decomposition and Shapley effects -- Application to global sensitivity analysis

Sébastien da Veiga|arXiv (Cornell University)|Jan 14, 2021

Probabilistic and Robust Engineering Design被引用 8

一句话总结

本文提出基于核函数的ANOVA分解方法，用于基于再生核希尔伯特空间（RKHS）的非矩量独立敏感性指标，实现了核嵌入敏感性度量的方差类似分解。该研究首次证明了非Sobol’指标的ANOVA分解，通过核嵌入的Shapley效应将方法推广至输入依赖情形，并为包括分类变量和函数型输出在内的多种输出类型提供了统一的分析框架。

ABSTRACT

Global sensitivity analysis is the main quantitative technique for identifying the most influential input variables in a numerical simulation model. In particular when the inputs are independent, Sobol' sensitivity indices attribute a portion of the output of interest variance to each input and all possible interactions in the model, thanks to a functional ANOVA decomposition. On the other hand, moment-independent sensitivity indices focus on the impact of input variables on the whole output distribution instead of the variance only, thus providing complementary insight on the inputs / output relationship. Unfortunately they do not enjoy the nice decomposition property of Sobol' indices and are consequently harder to analyze. In this paper, we introduce two moment-independent indices based on kernel-embeddings of probability distributions and show that the RKHS framework used for their definition makes it possible to exhibit a kernel-based ANOVA decomposition. This is the first time such a desirable property is proved for sensitivity indices apart from Sobol' ones. When the inputs are dependent, we also use these new sensitivity indices as building blocks to design kernel-embedding Shapley effects which generalize the traditional variance-based ones used in sensitivity analysis. Several estimation procedures are discussed and illustrated on test cases with various output types such as categorical variables and probability distributions. All these examples show their potential for enhancing traditional sensitivity analysis with a kernel point of view.

研究动机与目标

• 为解决非矩量独立敏感性指标缺乏ANOVA分解的问题，以提升高阶效应与归一化处理的可解释性。
• 将RKHS框架拓展至敏感性分析，实现超越传统Sobol’指标的函数型分解。
• 通过核嵌入方法将Shapley效应推广至依赖输入情形，同时保持可解释性与归一化特性。
• 通过核方法统一处理多种输出类型（如分类、函数型、多变量）的敏感性分析。
• 为复杂仿真模型中的非矩量独立与基于Shapley的敏感性度量提供理论坚实且可估计的框架。

提出的方法

• 利用RKHS中概率分布的核嵌入，基于最大均值差异（MMD）定义非矩量独立敏感性指标。
• 通过利用RKHS结构推导基于核函数的ANOVA分解，实现总效应向主效应与交互效应的分解。
• 证明在特定核函数选择下（如适当带宽的高斯核），所提出的核函数指标可推广为Sobol’指标。
• 通过在RKHS框架内结合博弈论原理，提出用于依赖输入的核嵌入Shapley效应。
• 采用集中不等式（如MacDiarmid不等式）证明所提指标经验估计量的一致性。
• 基于蒙特卡洛采样与核岭回归开发估计程序，适用于包括离散型与函数型输出在内的多种输出类型。

实验结果

研究问题

• RQ1 能否在缺乏基于方差分解的前提下，为非矩量独立敏感性指标建立基于核函数的ANOVA分解？
• RQ2 所提出的核函数指标在特定核函数选择下是否能恢复经典Sobol’指标？
• RQ3 能否构建核嵌入Shapley效应，以将基于方差的Shapley效应推广至依赖输入情形？
• RQ4 所提框架在包括分类或函数型输出在内的多种输出类型下是否具备鲁棒性与可解释性？
• RQ5 核函数框架能否自然地提供归一化常数，并实现对非矩量独立指标的高阶效应分解？

主要发现

• 本文首次基于RKHS为非Sobol’型非矩量独立敏感性指标建立了ANOVA分解，实现了主效应与交互效应的可解释性分析。
• 所提出的核函数指标具有Sobol’指标的推广性质：当采用特定核函数（如适当带宽的高斯核）时，其退化为Sobol’指标。
• 针对依赖输入情形，提出了核嵌入Shapley效应，保持了传统Shapley效应的和为1性质与可解释性。
• 通过合适的核函数选择（如线性、多项式或专用核函数），该框架可支持多种输出类型，包括分类与函数型输出。
• 经验估计程序具有一致性，且由集中不等式支持，确保了实际应用中的可靠性能。
• 数值实验表明，该方法在含分类变量与概率分布的测试案例中表现有效，相较于经典方法展现出更高的可解释性。