[论文解读] Analyzing Stochastic Computer Models: A Review with Opportunities

Evan Baker, Pierre Barbillon+11 more|arXiv (Cornell University)|Feb 4, 2020

Advanced Multi-Objective Optimization Algorithms被引用 4

一句话总结

本文综述了用于分析随机计算机模型的统计方法——即由于伪随机数生成而具有固有随机性的模拟器——重点介绍高斯过程代理模型及其扩展。文章提出了在随机模拟器中进行设计、校准和不确定性量化的实用方法，强调了在建模非恒定噪声、多保真度框架和方差减少方面存在的开放挑战与机遇。

ABSTRACT

In modern science, computer models are often used to understand complex phenomena, and a thriving statistical community has grown around analyzing them. This review aims to bring a spotlight to the growing prevalence of stochastic computer models -- providing a catalogue of statistical methods for practitioners, an introductory view for statisticians (whether familiar with deterministic computer models or not), and an emphasis on open questions of relevance to practitioners and statisticians. Gaussian process surrogate models take center stage in this review, and these, along with several extensions needed for stochastic settings, are explained. The basic issues of designing a stochastic computer experiment and calibrating a stochastic computer model are prominent in the discussion. Instructive examples, with data and code, are used to describe the implementation of, and results from, various methods.

研究动机与目标

• 为从业者和统计学家提供易于理解、最新且实用的统计工具，用于分析具有非恒定噪声和固有随机性的随机计算机模型。
• 突出标准回归方法和确定性代理模型在应用于随机模拟器时的局限性，尤其是在高维或复杂场景下。
• 识别并强调在随机模拟器的设计、校准和不确定性量化方面尚未解决的研究问题，特别是在基于代理的和复杂模拟情境中。
• 推动使用先进方法，如多保真度建模、方差减少技术，以及结合确定性和随机模拟器的混合模型。
• 通过整理现有方法、识别研究空白并提供包含数据和代码的示例，促进在随机模拟器分析方面的统计研究。

提出的方法

• 以高斯过程（GP）代理模型作为核心框架，用于建模随机模拟器中的均值响应和残差方差，将标准GP方法扩展以处理非恒定噪声。
• 采用分层建模策略，联合建模均值函数 $ M(x) $ 和方差 $ \sigma_v^2(x) $，实现灵活的不确定性量化。
• 采用兼顾重复实验与输入空间探索的设计策略，认识到在随机实验中重复次数与覆盖范围之间的权衡。
• 引入多保真度建模方法，结合低保真度和高保真度模拟器，在计算预算有限的情况下提升效率和准确性。
• 利用方差减少技术以及来自较不嘈杂输出的信息，以改进对更易变量（如分位数）的估计。
• 利用重复数据估计并建模异方差噪声结构 $ \sigma_v^2(x) $，避免假设方差恒定。

实验结果

研究问题

• RQ1 高斯过程代理模型如何适应随机计算机模型中的非恒定方差？这对不确定性量化有何影响？
• RQ2 在计算资源受限的情况下，如何设计有效的随机计算机实验策略，以在重复实验与输入空间覆盖之间取得平衡？
• RQ3 在随机模拟器的校准中，如何恰当地考虑模型差异？在不同条件下，哪些方法最为有效？
• RQ4 多保真度建模和方差减少技术在哪些方面能够提升随机模拟器分析的效率和准确性？
• RQ5 将深度学习或神经网络应用于随机模拟器面临哪些关键挑战？它们如何与高斯过程方法互补或扩展？

主要发现

• 高斯过程代理模型在建模随机模拟器的均值和方差方面表现有效，但在随机环境下诊断模型不足的问题，相较于确定性情形仍发展不足。
• 重复实验对于估计噪声方差 $ \sigma_v^2(x) $ 至关重要，但重复次数与输入空间探索之间的权衡使实验设计复杂化，尤其是在高维情况下。
• 当前用于随机模拟器校准的方法尚无万能解法，需要在不同方法（如ABC与分层建模）之间进行实证比较，以指导最佳实践。
• 多保真度建模以及将确定性和随机模拟器耦合，为在模拟预算有限时提升效率提供了切实可行的路径。
• 尽管方差减少技术在其他领域已有成熟应用，但在基于代理的模型和随机模拟器中仍利用不足，提示其是一个极具前景的研究方向。
• 利用较不嘈杂的输出信息来改进对更嘈杂输出的建模——例如，使用均值来提升分位数估计的准确性——可增强估计精度，且已有文献中的实证结果支持该方法。