[論文レビュー] Simulator Calibration under Covariate Shift with Kernels

K. Kisamori, Motonobu Kanagawa+1 more|arXiv (Cornell University)|Sep 21, 2018

Gaussian Processes and Bayesian Inference参考文献 27被引用数 6

ひとこと要約

本稿では、訓練データとは異なる分布に従うテスト分布に対して適応可能な予測を実現するため、重み付けされた重要度に基づくカーネル平均埋め込みを用いた、コンピュータシミュレータにおけるカーネルベースのベイジアンキャリブレーション手法を提案する。この手法は、MCMCに比べて少ないシミュレーション回数で優れた精度を達成し、特に訓練入力とテスト入力の分布が異なる外挿領域において顕著な効果を示す。

ABSTRACT

We propose a novel calibration method for computer simulators, dealing with the problem of covariate shift. Covariate shift is the situation where input distributions for training and test are different, and ubiquitous in applications of simulations. Our approach is based on Bayesian inference with kernel mean embedding of distributions, and on the use of an importance-weighted reproducing kernel for covariate shift adaptation. We provide a theoretical analysis for the proposed method, including a novel theoretical result for conditional mean embedding, as well as empirical investigations suggesting its effectiveness in practice. The experiments include calibration of a widely used simulator for industrial manufacturing processes, where we also demonstrate how the proposed method may be useful for sensitivity analysis of model parameters.

研究の動機と目的

• 訓練データとテスト入力の分布が異なる共変量シフト下でのシミュレータキャリブレーションを解決すること。これは、シミュレーションベースの予測において一般的に見られる課題である。
• 勾配情報に依存せず、高価なシミュレータの実行回数を多く必要としない、高精度なキャリブレーション手法の開発。
• カーネル平均埋め込みと重要度重み付けを用いて、ベイジアン推論に分布シフトを統合すること。
• 産業的製造シミュレーションにおける本手法の有効性を示し、モデルパラメータの感度分析への応用可能性を検証すること。

提案手法

• 本手法は、再生核ヒルバート空間（RKHS）内に非パラメトリックに入力分布を表現するため、カーネル平均埋め込みを用いる。
• 共変量シフトを考慮し、テスト入力分布 $ q_1(x) $ に適応するため、重要度重み付きの再生カーネルを導入する。
• シミュレータパラメータ $ \theta $ に対する事前分布を用い、ベイジアン推論を実施する。事後分布は、RKHSにおける正則化付きカーネルリッジ回帰により近似する。
• 条件付き平均埋め込みを活用して、入力に応じたシミュレータ出力分布を推定する。共変量シフト下での一貫性について理論的分析を実施する。
• 過学習を抑えるため、正則化パrameter $ \varepsilon $ を用いて数値的安定性を確保する。
• シミュレータ評価回数を同一にした条件下で、メトロポリス・ハスティングスMCMCと比較し、効率性と精度を評価する。

実験結果

リサーチクエスチョン

• RQ1 訓練データとテスト入力の分布が異なる（共変量シフト）状況下でも、カーネルベースのベイジアン手法がシミュレータのキャリブレーションに有効に機能するか。
• RQ2 標準的なMCMC手法と比較して、本手法の予測精度とシミュレーション効率はどのように評価できるか。
• RQ3 本手法を用いて、最適パラメータが入力分布に応じて変化するような状況でも、パラメータ感度を推定できるか。
• RQ4 共変量シフト下で条件付き平均埋め込みに重要度重み付きカーネルを用いる理論的根拠は何か。

主な発見

• 提案手法は、共変量シフト設定下で、MCMCに比べて少ないシミュレータ評価回数でより低いRMSEを達成した。
• 50個の訓練データ点と100回のシミュレーションでの実行で、共変量シフト状況下でMH法に比べてRMSEを約30％低減した。
• テスト領域 $ x \geq 110 $ において、推定された事後平均パラメータが真のパラメータ $ \theta^{(1)} $ に近く、分布シフトへの適応が成功したことを示した。
• 共変量シフト下で $ \theta_1 $ と $ \theta_3 $ の相関が低下したことが判明し、パラメータ感度の変化が示唆された。これは感度分析に有用である。
• 理論的分析により、共変量シフト下での条件付き平均埋め込みに関する新規な一貫性結果が得られ、本手法の妥当性を裏付けた。
• 計算コストの高い評価を伴う実世界の製造シミュレータにおいて、本手法は頑健性と効率性を示した。