[论文解读] Experimental Analysis of a Generalized Stratified Sampling Algorithm for Hypercubes

Simon Wessing|arXiv (Cornell University)|May 10, 2017

Interconnection Networks and Systems被引用 3

一句话总结

本文提出了一种广义分层抽样（GSS）算法，通过递归二元划分实现对超立方体中任意点数的均匀抽样，克服了传统平行分层法存在的指数级增长限制。该方法确保了等体积超盒的生成，通过线性时间计算最小化覆盖半径，并在与拉丁超立方抽样结合时改善了不均匀性，其在数值积分和优化任务中的表现优于当前最先进的方法，适用于多种维度和样本规模。

ABSTRACT

Stratified sampling is a fast and simple method to generate point sets with uniform distribution in hypercubes. However, for the most common paraxial stratfication it has the prominent drawback that the number of sampled points in n dimensions has to be an n-th power of an integer number. This exponential growth makes its application unattractive or even infeasible in high dimensions. We present a stratification procedure that eliminates this problem by a recursive binary partitioning of the hypercube. The algorithm runs in linear time and tries to minimize the hyperboxes' deviation from the cubic shape. We analyze the properties of the algorithm using discrepancy and covering radius, and directly in practical applications, comparing it to quasirandom and other sampling methods. We also discuss a potential combination with Latin hypercube sampling, which positively affects discrepancy.

研究动机与目标

• 解决传统分层抽样方法的局限性，即要求点数为整数的n次幂，导致在高维空间中不切实际。
• 开发一种线性时间抽样算法，确保无论点数多少，均能在超立方体中实现均匀分布。
• 通过最小化超盒偏离立方形状的程度并减少覆盖半径，提升抽样质量。
• 在数值积分与最坏情况优化任务中，评估该方法相较于准随机序列与拉丁超立方抽样的性能表现。
• 通过分布参数化（如贝茨分布）探索不均匀性与覆盖半径之间的权衡。

提出的方法

• 使用递归二元空间划分将超立方体划分为等体积的超盒，避免对n次幂的依赖。
• 在划分过程中采用贪心策略，以最小化超盒长宽比偏离立方形状的程度。
• 利用划分后的超盒在O(n)时间内计算覆盖半径的上界，从而实现高效最小化。
• 提出一种变体，通过贝茨分布在每个超盒内抽样，实现低不均匀性与低覆盖半径之间的权衡。
• 将该算法与拉丁超立方抽样结合，提升不均匀性表现的同时保持分布均匀性。
• 采用自举置信区间与2000次重复实验，评估不同维度与样本规模下的统计性能。

实验结果

研究问题

• RQ1 能否设计一种分层抽样方法，使其在高维超立方体中适用于任意点数，且不受指数级增长约束？
• RQ2 通过递归二元划分最小化覆盖半径，对优化与积分性能有何影响？
• RQ3 将GSS与拉丁超立方抽样结合，相较于标准方法，能在多大程度上改善不均匀性？
• RQ4 在超盒内使用不同抽样分布时，不均匀性与覆盖半径之间是否存在可测量的权衡？
• RQ5 在不同维度与样本数量下，该方法相较于科罗博夫格点与准随机序列，在收敛速度与精度方面表现如何？

主要发现

• 在维度n ≤ 4时，GSS（b = ∞，即最小化覆盖半径）在性能上通常优于被视为不均匀性最优的科罗博夫格点。
• 在高维空间中，GSS在球函数与罗斯特罗克函数上表现优异，但在双重求和函数与FP函数上表现较差，表明覆盖半径在某些问题类别中更为关键。
• 包含第6–7步（细化划分以减少覆盖半径）的GSS变体在2D中1024次实验中赢得822次，在10D内保持主导地位，7D中赢得712次，8D中赢得517次。
• GSS（b > 1）的结果分布相较于其他方法更偏斜，表明其对问题结构或某些子空间中的病态性较为敏感。
• 覆盖半径的上界计算高效且足够精确，可有效避免高维空间中精确Voronoi剖分的高昂计算成本。
• 科罗博夫格点与（A）LGSS（自适应广义分层抽样）均为性能强劲的通用方法，其性能可通过实现选择进行调节。