[論文レビュー] Adjustments to Computer Models via Projected Kernel Calibration

Rui Tuo|arXiv (Cornell University)|May 9, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 14被引用数 4

ひとこと要約

本稿では、コンピュータモデルキャリブレーションにおける漸近正規性と半パラメトリック効率性を達成する頻度主義的手法である、投影カーネルキャリブレーション法を提案する。カーネル関数をシミュレータ出力の勾配と直交する部分空間に投影することにより、ケネディ＝オー・ヘーゲン法の不一致性を解消し、大標本近似に依存せずに信用区間推定に自然なベイズ的解釈を可能にする。

ABSTRACT

Identification of model parameters in computer simulations is an important topic in computer experiments. We propose a new method, called the projected kernel calibration method, to estimate these model parameters. The proposed method is proven to be asymptotic normal and semi-parametric efficient. As a frequentist method, the proposed method is as efficient as the $L_2$ calibration method proposed by Tuo and Wu [Ann. Statist. 43 (2015) 2331-2352]. On the other hand, the proposed method has a natural Bayesian version, which the $L_2$ method does not have. This Bayesian version allows users to calculate the credible region of the calibration parameters without using a large sample approximation. We also show that, the inconsistency problem of the calibration method proposed by Kennedy and O'Hagan [J. R. Stat. Soc. Ser. B. Stat. Methodol. 63 (2001) 425-464] can be rectified by a simple modification of the kernel matrix.

研究の動機と目的

• ケネディ＝オー・ヘーゲン（KO）ベイズキャリブレーション法における、大標本極限における事前分布依存性に起因する不一致問題を解消すること。
• 漸近正規性と半パラメトリック効率性を備えた頻度主義キャリブレーション手法を開発し、$L_2$キャリブレーションの性能を再現すること。
• 大標本近似に依存せずに信用領域推定が可能な、自然なベイズ的バージョンのキャリブレーション手法を提供すること。
• カーネルに基づく直交性条件を用いて、既存のキャリブレーションフレームワークにおける同定可能性および不一致問題を是正すること。
• 頻度主義の効率性とベイズ的不確実性評価の利点を統合する統一フレームワークを確立すること。

提案手法

• 本手法は、再現核ヒルバート空間（RKHS）におけるカーネルを、シミュレータ出力の勾配に対して直交化することで、投影カーネル関数を導入する。
• 直交性条件 $\hat{\theta}_n^* \perp \mathcal{G}_{\hat{\theta}_n^*}$ を用いて、射影作用素 $\mathcal{P}^\perp_{\mathcal{G}_\theta}$ を定義し、乖離関数がシミュレータの感度空間と直交することを保証する。
• 投影カーネルから導かれる基底関数を用いて推定器を構築し、乖離関数の非パラメトリック推定を可能にする。
• 本手法は、$L_2$キャリブレーション法と漸近的に同等となり、一貫性や効率性といった頻度主義的性質を継承する。
• 投影された乖離関数にガウス過程事前分布を設定することでベイズ的バージョンを導出し、KOと同様の閉形式の後立分布を得るが、一貫性が向上している。
• 理論的分析にはドンスカー型のエントロピー条件および経験過程の漸近的等連続性を用い、収束性および極限分布の確立を図る。

実験結果

リサーチクエスチョン

• RQ1 頻度主義的効率性と自然なベイズ的解釈を両立できるキャリブレーション手法を開発できるか？
• RQ2 投影カーネルキャリブレーションは、元々のケネディ＝オー・ヘーゲン法に内在する不一致問題を解消するか？
• RQ3 乖離関数とシミュレータ勾配の間の直交性条件を用いて、一貫性と効率性を持つ推定量を構築できるか？
• RQ4 投影カーネルキャリブレーションは、効率性および極限分布の観点で $L_2$キャリブレーション法と漸近的に同等か？
• RQ5 大標本近似に依存せずに、キャリブレーションパラメータの信用領域を計算できるか？

主な発見

• 投影カーネルキャリブレーション法は、漸近的に正規分布に従い、半パラメトリックに効率的であり、$L_2$キャリブレーション法と同等の性能を示す。
• 本手法は、シミュレータの勾配空間に対して直交するようにカーネル行列を変更することで、KO法の不一致を解消する。
• 本手法のベイズ的バージョンは、大標本近似に依存せず、直接的に信用区間を計算可能であるのに対し、$L_2$法とは異なり、その点で優位性を示す。
• 推定量は $\hat{\theta}_n^* \perp \mathcal{G}_{\hat{\theta}_n^*}$ を満たし、推定方程式における2次項の消滅を保証し、より優れた漸近的性質を実現する。
• 経験過程理論を用いて推定量の漸近分布を導出し、正規分布への収束を示した。その分散・共分散行列は、半パラメトリック効率性の上限に達していることが判明した。
• 本手法は、正則性条件の下で $L_2$キャリブレーションと漸近的に同等である。両者とも同じ極限分布を有する。