[论文解读] On dropping the first Sobol' point

Art B. Owen|arXiv (Cornell University)|Aug 18, 2020

Mathematical Approximation and IntegrationMathematics被引用 20

一句话总结

本文证明，跳过第一个Sobol'点（常用于避免原点(0,...,0)）会显著降低准蒙特卡罗（QMC）和随机化QMC（RQMC）积分的精度。该做法破坏了数字网结构，并使均方根误差（RMSE）增加一个与√n成比例的因子，尽管其直觉上看似合理，但实则具有破坏性。

ABSTRACT

Quasi-Monte Carlo (QMC) points are a substitute for plain Monte Carlo (MC) points that greatly improve integration accuracy under mild assumptions on the problem. Because QMC can give errors that are $o(1/n)$ as $n o\infty$, changing even one point can change the estimate by an amount much larger than the error would have been and worsen the convergence rate. As a result, certain practices that fit quite naturally and intuitively with MC points are very detrimental to QMC performance. These include thinning, burn-in, and taking sample sizes such as powers of $10$, other than the ones for which the QMC points were designed. This article looks at the effects of a common practice in which one skips the first point of a Sobol' sequence. The retained points ordinarily fail to be a digital net and when scrambling is applied, skipping over the first point can increase the numerical error by a factor proportional to $\sqrt{n}$ where $n$ is the number of function evaluations used.

研究动机与目标

• 研究跳过第一个Sobol'点对QMC和RQMC积分精度的影响。
• 证明跳过第一个点会破坏Sobol'序列的数字网结构。
• 表明此类跳过操作会使打乱Sobol'序列中的均方根误差（RMSE）增加一个与√n成比例的因子。
• 反对在MCMC中常见但在QMC中具有破坏性的做法，如预烧尽（burn-in）和稀释（thinning）。
• 提倡从一开始就使用打乱的Sobol'点，而非丢弃初始点，以实现最优收敛性和误差控制。

提出的方法

• 分析Sobol'序列的数字网结构，并表明移除第一个点会破坏该性质。
• 以均方根误差（RMSE）作为主要指标，评估RQMC中的积分精度。
• 比较包含第一个点的估计器（μ̂_x,1）与跳过第一个点的估计器（μ̂_x,2）的性能。
• 通过理论分析和数值示例表明，跳过第一个点会导致误差增加√n倍。
• 考虑替代方案，如将所有点整体平移1/(2n)，以避免原点而不破坏数字网结构。
• 回顾现有软件实现（如SciPy、PyTorch、MATLAB）中包含的跳过和跳跃选项，指出其潜在风险。

实验结果

研究问题

• RQ1 跳过第一个Sobol'点是否降低QMC和RQMC积分的精度？
• RQ2 为何在打乱Sobol'序列中，跳过第一个点会使均方根误差（RMSE）增加一个与√n成比例的因子？
• RQ3 跳过第一个点如何影响Sobol'序列的数字网结构？
• RQ4 MCMC中常见的做法（如预烧尽和稀释）是否与QMC方法兼容？
• RQ5 有哪些更安全的替代方法可避免跳过第一个Sobol'点，同时保持数字网结构和积分精度？

主要发现

• 跳过第一个Sobol'点会破坏数字网结构，而该结构对QMC的低差异性特性至关重要。
• 在随机化QMC（RQMC）中，跳过第一个点会使均方根误差（RMSE）增加一个与√n成比例的因子。
• Sobol'序列的第一个点为(0,0,…,0)，跳过它是常见但有害的做法，尤其在转换为无界分布时更为明显。
• 使用非2的幂次的样本量（如1000或10^6）在数字网中可能显著低于使用2的幂次的精度，尤其在数字网中表现更差。
• 替代方法如将所有点整体平移1/(2n)，可保持数字网结构，避免原点且不增加误差。
• QMC库（如MATLAB、SciPy）中提供的“跳过”和“跳跃”功能存在风险，应避免使用，除非有充分理由。