[論文レビュー] Jointly Robust Prior for Gaussian Stochastic Process in Emulation, Calibration and Variable Selection

Mengyang Gu|arXiv (Cornell University)|Apr 25, 2018

Probabilistic and Robust Engineering Design参考文献 24被引用数 4

ひとこと要約

本稿は、不確実性評価におけるガウス確率過程（GaSP）の共同ロバスト（JR）事前分布を導入し、安定なエミュレーション、キャリブレーション、変数選択を可能にする。JR事前分布は、事後モード推定の安定性を保証し、不活性な入力を自動で同定する。予測精度と信用区間カバレッジにおいて基準事前分布を上回り、計算効率も優れている。

ABSTRACT

Gaussian stochastic process (GaSP) has been widely used in two fundamental problems in uncertainty quantification, namely the emulation and calibration of mathematical models. Some objective priors, such as the reference prior, are studied in the context of emulating (approximating) computationally expensive mathematical models. In this work, we introduce a new class of priors, called the jointly robust prior, for both the emulation and calibration. This prior is designed to maintain various advantages from the reference prior. In emulation, the jointly robust prior has an appropriate tail decay rate as the reference prior, and is computationally simpler than the reference prior in parameter estimation. Moreover, the marginal posterior mode estimation with the jointly robust prior can separate the influential and inert inputs in mathematical models, while the reference prior does not have this property. We establish the posterior propriety for a large class of priors in calibration, including the reference prior and jointly robust prior in general scenarios, but the jointly robust prior is preferred because the calibrated mathematical model typically predicts the reality well. The jointly robust prior is used as the default prior in two new R packages, called "RobustGaSP" and "RobustCalibration", available on CRAN for emulation and calibration, respectively.

研究の動機と目的

• 小標本サイズ下でのエミュレーションおよびキャリブレーションにおけるGaSPパラメータ推定の不安定性を解消すること。
• 事後モード推定におけるロバスト性を維持するとともに、不活性な入力の自動同定を可能にする事前分布の開発。
• 過信のない不確実性評価を避けることで、キャリブレーションにおける予測精度と信用区間カバレッジを向上させること。
• 同等またはより優れた性能を示す基準事前分布の計算効率の高い代替手段を提供すること。
• 一般的な状況下で、キャリブレーションにおける広範な事前分布クラスの事後分布の適切性を確立すること。

提案手法

• エミュレーションおよびキャリブレーションにおけるGaSPのための新しい目的的事前分布として、共同ロバスト（JR）事前分布を提案する。
• 個々の範囲パラメータγₗを有する積構造相関を用い、特定のパrameterizationを適用することでロバスト性を確保する。
• JR事前分布下での周辺事後モード推定を用いて、同時に安定な推定と変数選択を達成する。
• 効率的な最適化を可能にするために、閉形式の導関数を導出する。これにより、基準事前分布よりも計算速度が向上する。
• キャリブレーションにおけるエミュレータおよび不一致関数の両方のモデル化にJR事前分布を適用し、パラメータ同定性を向上させる。
• シミュレーション例および実世界の事例を用いて、基準事前分布および最尤推定（MLE）と比較して手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 GaSPに基づくエミュレーションおよびキャリブレーションにおける事後モード推定のロバスト性を保証する新しい目的的事前分布を設計可能か？
• RQ2 JR事前分布は追加の計算コストなしに不活性な入力を自動で同定可能か？
• RQ3 JR事前分布は基準事前分布と比較して、予測精度および不確実性キャリブレーションにおいて優れているか？
• RQ4 小標本サイズ下でも、JR事前分布はキャリブレーションにおけるパラメータ同定性を向上させられるか？
• RQ5 JR事前分布は基準事前分布およびMLEと比較して、計算効率がどの程度優れているか？

主な発見

• JR事前分布は基準事前分布と同等またはより優れた予測性能を達成し、キャリブレーションモデルおよび不一致関数においてNRMSEが0.21であるのに対し、基準事前分布では0.28であった。
• JR事前分布は、保持されたデータポイントの約98％をカバーする95％事後信用区間を生成し、適切にキャリブレートされた不確実性評価を示している。
• 基準事前分布は過信を示しており、95％信用区間のカバレッジが88％にとどまり、平均パラメータの事後分散が過大に推定されていることが原因である。
• 閉形式の導関数のおかげで、JR事前分布は基準事前分布よりも計算が高速であり、効率的な最適化が可能である。
• JR事前分布下での周辺事後モードは、不活性な入力を効果的に同定しており、これは基準事前分布では一貫して達成できない能力である。
• JR事前分布は一般的な状況下でキャリブレーションにおける事後分布の適切性を保証し、有効なベイズ推論を可能にする。