[論文レビュー] A Spline-Based Approach to Uncertainty Propagation and Density Estimation

Adi Ditkowski, Gadi Fibich+1 more|arXiv (Cornell University)|Mar 29, 2018

Probabilistic and Robust Engineering Design被引用数 1

ひとこと要約

この論文は、一般化された多項式クラウドのような標準的なスモothモデルが勾配推定が不十分なためにPDF近似に失敗するという点で、不確実性伝播および確率密度関数（PDF）推定のためのスプラインに基づくアルゴリズムを提案する。この手法は、次元 $d \leq \frac{5}{2}m$ の範囲で $L^q$ ノルムにおいて多項式収束率を達成し、非線形光学および流体力学の応用において優れた精度を示す。

ABSTRACT

The effect of uncertainties and noise on a quantity of interest (model output) is often better described by its probability density function (PDF) than by its moments. Although density estimation is a common task, the adequacy of approximation methods (surrogate models) for density estimation has not been analyzed before in the uncertainty-quantification (UQ) literature. In this paper, we first show that standard surrogate models (such as generalized polynomial chaos), which are highly accurate for moment estimation, might completely fail to approximate the PDF, even for one-dimensional noise. This is because density estimation requires that the surrogate model accurately approximates the gradient of the quantity of interest, and not just the quantity of interest itself. Hence, we develop a novel spline-based algorithm for density-estimation whose convergence rate in $L^q$ is polynomial in the sampling resolution. This convergence rate is better than that of standard statistical density-estimation methods (such as histograms and kernel density estimators) at dimensions $1 \leq d\leq \frac{5}{2}m$, where $m$ is the spline order. Furthermore, we obtain the convergence rate for density estimation with any surrogate model that approximates the quantity of interest and its gradient in $L^{\infty}$. Finally, we demonstrate our algorithm for problems in nonlinear optics and fluid dynamics.

研究の動機と目的

• 標準的なスムーズモデルがモーメント推定においては正確であるにもかかわらず、確率密度関数（PDF）の近似に失敗する理由を特定すること。
• 不確実性評価においてしばしば無視されるが、密度推定においては極めて重要な、正確な勾配近似の必要性を解決すること。
• 明示的な収束率を保証する信頼性があり収束するPDF推定を可能にする、新しいスプラインベースのアルゴリズムを開発すること。
• 任意のスムーズモデルが目的変数およびその勾配を $L^\infty$ で近似する場合に、密度推定の理論的収束率を確立すること。
• 非線形光学および流体力学の実世界の問題に対してこの手法を検証し、実用的有用性を示すこと。

提案手法

• 本手法は、$m$ 次のBスプラインを用いて、目的変数およびその勾配を $L^\infty$ で近似するスムーズモデルを構築する。
• Bスプラインの滑らかさと局所的サポートの性質を活用し、勾配の一貫性を保つ近似により、高精度な密度推定を実現する。
• アルゴリズムは、変数変換の公式を用いてスムーズモデルの出力を変換することでPDFを計算し、元の分布に忠実な推定を保証する。
• 収束解析により、推定されたPDFの $L^q$ 誤差がサンプリング解像度に従って多項式的に減少することが示され、収束率はスプライン次数 $m$ と次元 $d$ に依存する。
• 次元 $1 \leq d \leq \frac{5}{2}m$ の範囲で、標準的な統計推定器（ヒストограм、カーネル密度推定）よりも優れた収束率を達成することが証明されている。
• 非線形光学および流体力学の問題に本手法を適用し、複雑で高ノイズな状況下でも、頑健な性能を示した。

実験結果

リサーチクエスチョン

• RQ1 一般化された多項式クラウドのような標準的なスムーズモデルは、モーメント推定においては正確であるにもかかわらず、なぜモデル出力の確率密度関数（PDF）の近似に失敗するのか？
• RQ2 特に勾配近似に関して、正確な密度推定に必要なスムーズモデルの条件は何か？
• RQ3 スプラインベースの手法は、ヒストограмやカーネル密度推定器といった古典的手法よりも、$L^q$ でのPDF推定においてより良い収束率を達成できるか？
• RQ4 スムーズモデルが目的変数およびその勾配を $L^\infty$ で近似する場合、PDF推定の理論的収束率は何か？
• RQ5 本手法は、非線形光学や流体力学におけるような実用的で高次元の問題において、どのように性能を発揮するか？

主な発見

• 一般化された多項式クラウドのような標準的なスムーズモデルは、モーメント推定においては有効であるが、勾配近似が不十分であるため、真のPDFを完全に近似できないことがある。
• 提案されたスプラインベースのアルゴリズムは、$L^q$ ノルムにおいてPDF推定で多項式収束率を達成し、次元 $1 \leq d \leq \frac{5}{2}m$ の範囲で、標準的な統計的手法よりも優れた性能を示す。ここで $m$ はスプライン次数である。
• 本手法の収束率はスプライン次数 $m$ と次元 $d$ に依存し、低次元から中程度次元の範囲で性能が向上する。
• 理論的解析により、目的変数およびその勾配を $L^\infty$ で近似する任意のスムーズモデルは、明示的な収束性を保証する密度推定を可能にする。
• 非線形光学および流体力学における数値実験から、本手法は著しいノイズや非線形性が存在する状況下でも、正確で安定したPDF推定を提供することが示された。
• 次元 $d \leq \frac{5}{2}m$ の範囲で、ヒストограмやカーネル密度推定器といった従来の密度推定技術に比べ、収束速度および精度の面で本手法が優れている。