[論文レビュー] Kernel-based ANOVA decomposition and Shapley effects -- Application to global sensitivity analysis

Sébastien da Veiga|arXiv (Cornell University)|Jan 14, 2021

Probabilistic and Robust Engineering Design被引用数 8

ひとこと要約

本稿では、再生核ヒルベルト空間（RKHS）を用いたカーネルベースのANOVA分解を、モーメントに依存しない感度指標に適用する手法を提案する。これにより、カーネル埋め込みによる感度測度の分散に類似した分解が可能になる。本稿は、非ソボル指標における初めてのANOVA分解を証明し、カーネル埋め込みを用いたシャープレー効果により従属する入力へと一般化し、カテゴリー型や関数型出力など多様な出力タイプを統一的に扱うフレームワークを提供する。

ABSTRACT

Global sensitivity analysis is the main quantitative technique for identifying the most influential input variables in a numerical simulation model. In particular when the inputs are independent, Sobol' sensitivity indices attribute a portion of the output of interest variance to each input and all possible interactions in the model, thanks to a functional ANOVA decomposition. On the other hand, moment-independent sensitivity indices focus on the impact of input variables on the whole output distribution instead of the variance only, thus providing complementary insight on the inputs / output relationship. Unfortunately they do not enjoy the nice decomposition property of Sobol' indices and are consequently harder to analyze. In this paper, we introduce two moment-independent indices based on kernel-embeddings of probability distributions and show that the RKHS framework used for their definition makes it possible to exhibit a kernel-based ANOVA decomposition. This is the first time such a desirable property is proved for sensitivity indices apart from Sobol' ones. When the inputs are dependent, we also use these new sensitivity indices as building blocks to design kernel-embedding Shapley effects which generalize the traditional variance-based ones used in sensitivity analysis. Several estimation procedures are discussed and illustrated on test cases with various output types such as categorical variables and probability distributions. All these examples show their potential for enhancing traditional sensitivity analysis with a kernel point of view.

研究の動機と目的

• モーメントに依存しない感度指標に対するANOVA分解の欠如が、高次効果の解釈可能性と正規化を制限するという問題に対処すること。
• RKHSフレームワークを感度分析へと拡張し、従来のソボル指標を超える機能的分解を可能にすること。
• カーネル埋め込みを用いて、従属する入力に対するシャープレー効果を一般化し、解釈可能性と正規化を保持すること。
• カーネル法を用いて、カテゴリー型、関数型、多次元出力など多様な出力タイプの感度分析を統一すること。
• 複雑なシミュレーションモデルにおけるモーメントに依存しない指標およびシャープレーに基づく感度測度に対して、理論的に裏付けられ、推定に適したフレームワークを提供すること。

提案手法

• RKHSにおける確率分布のカーネル埋め込みを用いて、MMD（Maximum Mean Discrepancy）に基づくモーメントに依存しない感度指標を定義する。
• RKHS構造を活用してカーネルベースのANOVA分解を導出し、全効果を主効果および相互作用効果に分解可能にする。
• 提案されたカーネルベースの指標が、特定のカーネル選択（例：適切な帯域幅のガウスカーネル）のもとでソボル指標に一般化されることを証明する。
• ゲーム理論的原則をRKHSフレームワーク内に組み込み、従属する入力に対するカーネル埋め込みシャープレー効果を導入する。
• 濃度不等式（例：マクダーミッドの不等式）を用いて、提案された指標の経験的推定器の一貫性を裏付ける。
• モンテカルロサンプリングおよびカーネルリッジ回帰に基づく推定手順を開発し、離散的および関数型出力など多様な出力タイプに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 モーメントに依存しない感度指標には分散に基づく分解がないが、RKHSを用いたカーネルベースのANOVA分解を確立できるか？
• RQ2 提案されたカーネルベースの指標は、特定のカーネル選択のもとで古典的ソボル指標を回復するか？
• RQ3 カーネル埋め込みを用いたシャープレー効果は、従属する入力に対する分散に基づくシャープレー効果を一般化できるか？
• RQ4 提案されたフレームワークは、カテゴリー型や関数型出力などの多様な出力タイプに対して、頑健かつ解釈可能か？
• RQ5 カーネルベースのフレームワークは、自然な正規化定数を提供し、モーメントに依存しない指標の高次効果分解を可能にするか？

主な発見

• 本稿は、RKHSを用いた非ソボル指標のための初めてのANOVA分解を確立し、主効果および相互作用効果の解釈を可能にする。
• 提案されたカーネルベースの指標はソボル指標を一般化する：適切なカーネル（例：適切な帯域幅のガウスカーネル）を用いることで、ソボル指標に還元される。
• 従属する入力に対するカーネル埋め込みシャープレー効果が導入され、従来のシャープレー効果の和が1になる性質と解釈可能性が保持される。
• 適切なカーネル選択（例：線形、多項式、または特化したカーネル）により、カテゴリー型および関数型出力など多様な出力タイプをサポートする。
• 経験的推定手順は一貫しており、濃度不等式によって裏付けられ、実用的な信頼性が保証される。
• 数値例では、カテゴリー変数や確率分布を含むテストケースにおいて、従来の手法に比べて解釈性が向上することを示している。