[論文レビュー] Sensitivity analysis from a single input/output sample

Sébastien Da Veiga, Fabrice Gamboa+3 more|arXiv (Cornell University)|Mar 31, 2023

Probabilistic and Robust Engineering DesignDecision Sciences参考文献 45被引用数 3

ひとこと要約

本稿では、1つの入力/出力サンプルのみを用いて、近隣点密度推定とカーネルスムージングを活用することで、漸近正規性と一貫性のある分散推定を達成する、新しいカーネルベースの推定量を導入する。主な貢献は、最小限のモーメント仮定の下で推定量に対して中心極限定理を確立することであり、これにより計算コストを最小限に抑えた信頼性の高い感度分析が可能になる。

ABSTRACT

The main objective of this paper is to estimate optimally Sobol' indices at any order when a unique input/output i.i.d.\ sample is available. Our approach stands on three main ingredients: semi-parametric estimation theory, high-order kernel estimation (inspired by the paper of Doksum in 1995), and mirror-type transformations as introduced in Bertin 2020 and Pujol 2022. We propose two different estimators. We prove that these estimators are asymptotically normal and efficient. Furthermore, we illustrate their numerical properties on standard examples.

研究の動機と目的

• 繰り返しモデル評価が不要な、Sobol’インデックスの感度分析推定量の開発。
• 最小限のモーメント条件（例：$\mathbb{E}[Y^4] < \infty$）の下で理論的保証を確立すること—特に中心極限定理の導出—により、推定量の漸近正規性を保証すること。
• ネスト型または再現設計を必要としない第一順位および全順位Sobol’インデックスの効率的推定を可能にし、計算コストを低減すること。
• 多次元入力および未知の入力密度を扱えるように、既存の近隣点およびカーネルベース手法を拡張し、高次元設定におけるロバストネスを向上させること。

提案手法

• 本手法は、入力変数の条件付き期待値を推定するためにカーネルスムージングを適用し、1組の入力/出力ペairのサンプルを用いて$\mathbb{E}[\mathbb{E}[Y|X]^2]$のカーネルベース推定量を構築する。
• バイアスと分散のバランスを図るため、バンド幅選択を伴う積カーネル構造を採用し、一貫性および漸近正規性を保証する。
• サンプリング変動を補正するために、近隣点密度推定に基づく再重み付けスキームを用い、別個の設計点やモデルの再実行の必要性を排除する。
• 推定量が$\mathbb{E}[Y^4] < \infty$の仮定の下で中心極限定理に従うことが導出され、推定量が$\sqrt{n}$のレートで正規分布に分布収束することを証明する。
• 入力密度$f_X$が未知の場合でも、カーネル密度推定により非パラメトリックに推定することで、事前知識のない設定への適用を可能にする。
• 理論的裏付けとして、一変量の直交多項式に基づくカーネルのテンソル積による$d$次元における$k$次のカーネルの構築が行われ、モーメント条件を満たすことが保証される。

実験結果

リサーチクエスチョン

• RQ1 1つの入力/出力サンプルを用いて、理論的保証のもとでSobol’インデックスを一貫して推定可能か？
• RQ2 提案されたカーネルベース推定量は、最小限のモーメント仮定の下で漸近正規性を達成するか？
• RQ3 入力密度が未知または推定されている場合、バイアスと分散の観点で推定量はどのように性能を発揮するか？
• RQ4 繰り返しまたはネスト型設計を必要とせず、第一順位および全順位Sobol’インデックスを効率的に推定可能か？
• RQ5 バンド幅選択およびカーネル次数が収束レートおよび有限標本性能に与える影響はいかほどか？

主な発見

• 提案された推定量は、最小限の仮定$\mathbb{E}[Y^4] < \infty$の下で漸近正規性を達成し、感度インデックスの信頼性の高い推論を保証する。
• Sobol’インデックスの核心的要素である$\mathbb{E}[\mathbb{E}[Y|X]^2]$の推定量に対して中心極限定理が確立され、信頼区間の構築が可能になる。
• 本手法は、入力/出力ペアの1組のサンプルのみを必要とし、繰り返しモデル評価やピック・フリーズのような複雑な設計スキームの必要性を排除する。
• 入力密度$f_X$が未知であり非パラメトリックに推定される場合でも、推定量は一貫性および漸近正規性を保ち、バンド幅選択によって密度推定量の収束が制御される。
• 理論的分析により、次元$d \leq 3$では推定量のバイアスが無視できるほど小さく、適切なバンド幅およびカーネル設計により良好な有限標本性能が維持されることが示された。
• 一変量の直交多項式に基づくカーネルのテンソル積による、$d$次元における任意の次数$k$の多次元カーネルの構築法が提示され、モーメント条件の満たされることが保証された。