[论文解读] Simulator Calibration under Covariate Shift with Kernels

K. Kisamori, Motonobu Kanagawa+1 more|arXiv (Cornell University)|Sep 21, 2018

Gaussian Processes and Bayesian Inference参考文献 27被引用 6

一句话总结

本文提出了一种基于核函数的贝叶斯校准方法，用于处理协变量偏移下的计算机模拟器，利用重要性加权核均值嵌入将预测结果适应于与训练数据不同的测试分布。该方法在模拟次数更少的情况下，相比MCMC实现了更高的预测精度，尤其在训练与测试输入分布不同的外推场景中表现更优。

ABSTRACT

We propose a novel calibration method for computer simulators, dealing with the problem of covariate shift. Covariate shift is the situation where input distributions for training and test are different, and ubiquitous in applications of simulations. Our approach is based on Bayesian inference with kernel mean embedding of distributions, and on the use of an importance-weighted reproducing kernel for covariate shift adaptation. We provide a theoretical analysis for the proposed method, including a novel theoretical result for conditional mean embedding, as well as empirical investigations suggesting its effectiveness in practice. The experiments include calibration of a widely used simulator for industrial manufacturing processes, where we also demonstrate how the proposed method may be useful for sensitivity analysis of model parameters.

研究动机与目标

• 解决训练与测试输入分布不同的协变量偏移下的模拟器校准问题，这是基于模拟预测中的常见挑战。
• 开发一种无需依赖梯度信息或大量昂贵模拟器运行即可实现准确校准的方法。
• 通过核均值嵌入与重要性加权，将分布偏移纳入贝叶斯推断框架。
• 在工业制造模拟中展示该方法的有效性，并证明其在模型参数敏感性分析中的实用性。

提出的方法

• 该方法使用核均值嵌入在再生核希尔伯特空间（RKHS）中非参数化地表示输入分布。
• 引入一种重要性加权再生核，以适应后验分布至测试输入分布 $ q_1(x) $，从而考虑协变量偏移的影响。
• 通过在模拟器参数 $ \theta $ 上设定先验进行贝叶斯推断，后验分布通过RKHS中的正则化核岭回归进行近似。
• 该方法利用条件均值嵌入估计给定输入的模拟器输出分布，并对协变量偏移下的一致性进行了理论分析。
• 通过正则化参数 $ \varepsilon $ 控制过拟合并确保数值稳定性。
• 与Metropolis-Hastings MCMC方法进行对比，使用相同数量的模拟器评估次数，以评估其效率与准确性。

实验结果

研究问题

• RQ1 基于核函数的贝叶斯方法在训练与测试输入分布不同的情况下（即协变量偏移），能否有效校准模拟器？
• RQ2 与标准MCMC方法相比，该方法在预测精度与模拟效率方面表现如何？
• RQ3 该方法能否用于推断参数敏感性，尤其是在最优参数随输入分布变化时？
• RQ4 在协变量偏移下，为何使用重要性加权核函数进行条件均值嵌入具有理论依据？

主要发现

• 所提出的方法在模拟器评估次数更少的情况下，相比Metropolis-Hastings MCMC，实现了更低的RMSE，尤其在协变量偏移设置下表现更优。
• 仅使用50个训练数据点和100次模拟，该方法在协变量偏移场景下相比MH方法将RMSE降低了约30%。
• 在测试区域 $ x \geq 110 $ 内，估计的后验均值参数接近真实参数 $ \theta^{(1)} $，表明成功适应了分布偏移。
• 在协变量偏移下，$ \theta_1 $ 与 $ \theta_3 $ 之间的相关性降低，表明参数敏感性发生了变化，这对敏感性分析具有重要意义。
• 理论分析提供了协变量偏移下条件均值嵌入的新结果，支持了该方法的一致性。
• 该方法在计算成本高昂的工业级制造模拟器中表现出鲁棒性与高效性。