[論文レビュー] A theoretical framework for calibration in computer models: parametrization, estimation and convergence properties

Rui Tuo, Changbao Wu|arXiv (Cornell University)|Aug 28, 2015

Advanced Multi-Objective Optimization Algorithms参考文献 19被引用数 8

ひとこと要約

本稿は、コンピュータモデルにおけるキャリブレーションの理論的枠組みを確立し、信頼できるパrameter推定の基準として$L_2$-一貫性を導入する。元のケネディ＝オー・ヘーゲン（KO）法における一貫性の欠如を特定し、$L_2$-一貫性を達成し、最適な収束率を有する新しい$L_2$キャリブレーション手法を提案する。これにより、不確実性評価における根本的な同定可能性と推定の問題が解決される。

ABSTRACT

Calibration parameters in deterministic computer experiments are those attributes that cannot be measured or available in physical experiments. Kennedy and O'Hagan \cite{kennedy2001bayesian} suggested an approach to estimate them by using data from physical experiments and computer simulations. A theoretical framework is given which allows us to study the issues of parameter identifiability and estimation. We define the $L_2$-consistency for calibration as a justification for calibration methods. It is shown that a simplified version of the original KO method leads to asymptotically $L_2$-inconsistent calibration. This $L_2$-inconsistency can be remedied by modifying the original estimation procedure. A novel calibration method, called the $L_2$ calibration, is proposed and proven to be $L_2$-consistent and enjoys optimal convergence rate. A numerical example and some mathematical analysis are used to illustrate the source of the $L_2$-inconsistency problem.

研究の動機と目的

• 決定的コンピュータモデルにおけるキャリブレーションの厳密な理論的基盤を確立し、パrameter化、推定、収束の問題を扱う。
• 物理的応答とシミュレートされた応答の$L_2$-距離投影を用いて、キャリブレーションパrameterの定義と形式化を行い、同定可能性を保証する。
• 元のケネディ＝オー・ヘーゲン（KO）法における$L_2$-不一致問題を分析し、解決する。
• $L_2$-一貫性と最適な収束率を保証する新しい$L_2$キャリブレーション手法を提案する。
• 再生核ヒルバート空間（RKHS）における関数近似を通じて、キャリブレーション手法の数学的根拠を提供する。

提案手法

• $L_2$-一貫性をキャリブレーションの理論的根拠として導入し、推定された応答が$L_2$ノルムにおいて真の応答に収束することを定義する。
• ガウス過程モデルと再生核ヒルバート空間（RKHS）理論を用いて、コンピュータシミュレーション出力と物理的観測値をモデル化する。
• $L_2$-距離投影を適用し、物理的応答とシミュレートされた応答の$L_2$-距離を最小化するパラメータとしてキャリブレーションパラメータを定義する。
• 核に基づく関数空間を用いた近似誤差の境界を導出し、設計密度における$h^{k'}$型の減衰を用いて収束率を導出する。
• 物理的応答とシミュレートされた応答の$L_2$-ノルム差を最小化することで$L_2$キャリブレーション手法を提案し、一貫性を保証する。
• テイラー展開とシュワーツの不等式を用いて推定誤差を評価し、推定器が真のキャリブレーションパラメータに収束することを証明する。

実験結果

リサーチクエスチョン

• RQ1 元のケネディ＝オー・ヘーゲン法がなぜ$L_2$-不一貫なキャリブレーションを引き起こすのか、その原因は何か？
• RQ2 モデルの不一致が存在する中で、同定可能性を保証するためのキャリブレーションパラメータを形式的にどのように定義できるか？
• RQ3 $L_2$-一貫性を確保するための条件は何か、そしてそれらをどのように達成できるか？
• RQ4 最適な収束率と$L_2$-一貫性を達成する新しいキャリブレーション手法を構築できるか？
• RQ5 核に基づく関数近似は、キャリブレーション推定器の理論的収束を保証するために果たす役割は何か？

主な発見

• 元のKO法の簡略化版は、設計密度が上昇するに従い、漸近的に$L_2$-不一貫なキャリブレーションとなる。これは、推定された応答が$L_2$ノルムにおいて真の物理的応答に収束しないことを意味する。
• $L_2$キャリブレーション手法は、$L_2$-一貫性を証明しており、設計密度が上昇するに従い、推定された応答が真の物理的応答に$L_2$ノルムで収束することを保証する。
• $L_2$キャリブレーション手法は、最適な収束率$O(h^{k'-1})$を達成する。ここで$h$は設計密度、$k'$は核の滑らかさパラメータである。
• 元のKO法における推定誤差は$O(h^{k'})$で有界であることが示され、これは$L_2$-一貫性には不十分である。一方、$L_2$キャリブレーション手法では勾配における誤差が$O(h^{k'-1})$に抑えられ、一貫性が達成される。
• 理論的分析により、正則性条件のもとで真のパラメータにおける損失関数のヘッセ行列が可逆であることが確認され、局所的な一意性と推定器の収束が保証される。
• 数値的および解析的結果により、$L_2$-不一致は元のKO推定手順における不適切な重み付けに起因しており、新しい$L_2$キャリブレーションフレームワークがこれを是正することが示された。