[论文解读] Variance reduction via empirical variance minimization: convergence and complexity

Denis Belomestny, Leonid Iosipoi+1 more|arXiv (Cornell University)|Dec 13, 2017

Control Systems and Identification被引用 13

一句话总结

本文通过在零均值控制函数上最小化经验方差，提出了一种蒙特卡洛估计中的方差减少技术，实现了非渐近误差界，并通过模拟展示了更高的数值效率。该方法通过利用基于经验方差最小化的控制变量子，提升了收敛速度。

ABSTRACT

In this paper we propose and study a generic variance reduction approach. The proposed method is based on minimization of the empirical variance over a suitable class of zero mean control functionals. We discuss several possibilities of constructing zero mean control functionals and present non-asymptotic error bounds for the variance reduced Monte Carlo estimates. Finally, a simulation study showing numerical efficiency of the proposed approach is presented.

研究动机与目标

• 开发一种适用于蒙特卡洛方法的通用方差减少框架，以提高估计精度。
• 通过引入零均值控制函数，解决蒙特卡洛估计器中高方差的挑战。
• 为所提出的方差减少估计器建立非渐近误差界。
• 通过模拟研究评估该方法的数值性能和效率。

提出的方法

• 该方法从合适的函数类中构建零均值控制函数，以减少蒙特卡洛估计器的方差。
• 通过在这些控制函数上最小化估计器的经验方差，实现最优方差减少。
• 该方法具有通用性，适用于包括复杂或高维被积函数在内的多种蒙特卡洛场景。
• 基于控制函数的性质和经验方差最小化，推导出非渐近误差界。
• 该方法支持多种控制函数的构造方式，例如基于回归或核方法的构造。
• 模拟研究验证了该方法在实际条件下的数值效率和收敛行为。

实验结果

研究问题

• RQ1 如何系统性地将经验方差最小化应用于蒙特卡洛估计器的方差减少？
• RQ2 该方差减少方法可实现的非渐近误差界是什么？
• RQ3 零均值控制函数的选择如何影响收敛速度和数值稳定性？
• RQ4 与标准蒙特卡洛方法及现有方差减少技术相比，该方法的实证性能如何？

主要发现

• 所提出的方法实现了优于标准蒙特卡洛方法的非渐近误差界，表现出更快的收敛速度。
• 在模拟研究中，对零均值控制函数进行经验方差最小化可实现显著的方差减少。
• 该方法在不同问题类别中均表现出鲁棒性，并在各种抽样条件下保持稳定性。
• 模拟研究证实了该方法的数值效率，与基线方法相比，均方误差更低。