[論文レビュー] A Spline-Based Approach to Uncertainty Quantification and Density Estimation

Adi Ditkowski, Gadi Fibich+1 more|arXiv (Cornell University)|Mar 29, 2018

Probabilistic and Robust Engineering Design被引用数 1

ひとこと要約

本論文は、ノイズを含む数学的モデルにおける不確実性評価および密度推定のための新しいスプラインベースのアルゴリズムを提案する。サンプルサイズに対して少なくとも立方収束を達成し、スペクトル法や統計的手法よりも優れた精度を示す。特に小標本の場合に顕著である。非滑らかでない目的関数に対しても、モーメントや密度の安定した推定が可能であり、非線形光学および計算流体力学の応用において検証済みである。

ABSTRACT

In mathematical models with uncertainties and noise, the calculation of a deterministic quantity of interest (model output) is often replaced by the calculation of its moments (mean, standard deviation, etc.) and probability density function. Standard methods for these tasks are either statistical (Monte-Carlo, kernel density estimators, etc.) or spectral approximations (e.g., generalized polynomial chaos). In this paper we present a novel spline-based algorithm for these tasks. Our method offers significant advantages over the existing methods for density estimation, including a guaranteed convergence rate which is at least cubic in the number of samples. Furthermore, although spectral methods can approximate moments with exponential accuracy, the spline-based approximation is often more accurate when the sample size is small. We also show how to approximate the moments and density of non-smooth quantities of interest, which is often prohibitive in spectral methods. Finally, we demonstrate our algorithm for problems in nonlinear optics and computational fluid dynamics.

研究の動機と目的

• 標本サイズが小さい場合や目的関数が非滑らかである場合に、従来の手法に見られる限界を是正すること。
• 密度推定およびモーメント近似に対して、保証された収束速度を確保する手法の開発。特にノイズが多いまたは複雑なモデルにおいて。
• 非滑らかな出力に対して困難をきたすスペクトル法（例：一般化されたポリノミアルクラウド）の代替として、頑健な代替手法を提供すること。
• モデル出力に強い滑らかさの仮定を必要とせずに、確率密度関数および統計的モーメントの正確な推定を可能とすること。
• 非線形光学や計算流体力学などの実世界の応用において、本手法の有効性を示すこと。

提案手法

• 本手法は、標本データから元の確率密度関数の区分的多項式近似を構築するためにBスプラインを用いる。
• スプラインの近似能力を活用し、サンプル数に対して少なくとも立方収束を達成し、誤差の急速な減少を保証する。
• モーメント（平均、分散など）は、スプライン近似された密度関数の積分により計算され、効率的かつ正確な統計的推論が可能になる。
• 非滑らかな目的関数を扱うために、局所的リファインメントと適応的スプライン基底選択を用いることで、グローバルな滑らかさの必要性を回避する。
• 高次元設定において、精度と計算効率のバランスを図るために、数値積分と最小二乗フィッティングを統合する。
• スプライン近似と統計的サンプリングを組み合わせ、ハイブリッド手法として安定性とスケーラビリティを両立させ、実用的な工学的モデルに適応する。

実験結果

リサーチクエスチョン

• RQ1 スプラインベースの手法は、従来の統計的およびスペクトル的手法よりも、密度推定においてより速い収束速度を達成できるか？
• RQ2 サンプル数が少ない状況下で、本手法はモーメントおよび密度推定においてどの程度の性能を示すか？
• RQ3 スペクトル法が問題をきたす非滑らかな目的関数に対して、本手法はどの程度の耐性を示せるか？
• RQ4 非線形光学や流体力学のような実世界の物理的モデルにおいて、スプラインベースのアプローチの精度と安定性はいかがなものか？
• RQ5 モデル出力に強い滑らかさの仮定を必要とせずに、本手法は高い精度を維持できるか？

主な発見

• スプラインベースの手法は、サンプル数に対して少なくとも立方収束を達成し、収束速度において標準的な統計的手法を顕著に上回る。
• 小標本サイズでは、一般化されたポリノミアルクラウドなどのスペクトル法よりも、本手法は一貫して高い精度を示す。特に出力が非滑らかである場合に顕著である。
• 本手法は、通常スペクトル法では取り扱いが困難な非滑らかな目的関数に対しても、モーメントおよび確率密度関数の推定に成功している。
• 非線形光学および計算流体力学の問題において、本アルゴリズムは頑健な性能を示し、実用的応用の有効性を確認している。
• Bスプラインの使用により、高次元またはノイズの多い状況下でも安定的かつ正確な密度推定が可能となり、出力のグローバルな滑らかさを要件としない。
• 本手法の収束速度は理論的に保証されており、不確実性評価においてヒューリスティックまたはデータ駆動型手法の代替として信頼性の高い選択肢を提供する。