[论文解读] Discrete low-discrepancy sequences

Omer Angel, Alexander E. Holroyd+2 more|arXiv (Cornell University)|Oct 6, 2009

Benford’s Law and Fraud Detection参考文献 16被引用 11

一句话总结

本文提出了一种构造性、确定性的算法，用于生成离散低差异序列，其行为与独立同分布（i.i.d.）随机过程高度相似。通过使用基于截止时间的选择规则，该算法确保经验频率与目标概率之间的差异在任意时刻严格小于1，从而将先前结果推广至无限集合和非同分布序列。

ABSTRACT

Holroyd and Propp used Hall's marriage theorem to show that, given a probability distribution pi on a finite set S, there exists an infinite sequence s_1,s_2,... in S such that for all integers k >= 1 and all s in S, the number of i in [1,k] with s_i = s differs from k pi(s) by at most 1. We prove a generalization of this result using a simple explicit algorithm. A special case of this algorithm yields an extension of Holroyd and Propp's result to the case of discrete probability distributions on infinite sets.

研究动机与目标

• 为有限和无限离散概率分布的存在性提供一种构造性且算法化的证明。
• 将Holroyd和Propp关于i.i.d.序列中差异有界的结论，推广至非同分布序列的情形。
• 设计一种确定性算法，确保在所有有限时刻，经验计数与期望计数之间的差异严格小于1。
• 证明当目标分布为有理数时，该算法生成周期性序列，并与旋转路由器机制建立联系。

提出的方法

• 该算法根据所有符号中最早截止时间选择下一个序列元素，前提是选择该符号不会使其累积差异降至-1以下。
• 若选择某符号s可使 $ D_{k+1}(s) < 1 $，则该符号为候选，其中 $ D_k(s) = N_k(s) - P_k(s) $。
• 候选符号s的截止时间是满足 $ D_{k'}(s) \neq 0 $ 的最小 $ k' \neq k+1 $，以确保其不会被低估。
• 算法使用累积期望计数 $ P_k(s) = \bigsum_{i=1}^k \nu_i(s) $，并通过跟踪差异 $ D_k(s) $ 来指导选择。
• 截止时间相同时，可任意处理，但可通过确定性方式处理以确保在有理概率分布下产生周期性序列。
• 该方法本质上需要了解未来分布 $ \nu_i $，如反例所示，仅基于局部决策无法维持差异界限。

实验结果

研究问题

• RQ1 能否设计一种确定性、构造性算法，为非i.i.i.d.离散分布生成差异严格小于1的序列？
• RQ2 是否可将低差异性从i.i.d.序列推广至可数集合上时变分布的序列？
• RQ3 仅依赖过去分布的确定性算法所能达到的最小差异是多少？
• RQ4 在何种条件下算法会产生周期性序列？这与有理概率测度有何关联？
• RQ5 是否不仅能控制选择元素的计数，还能控制其选择间隔？

主要发现

• 所提出的算法保证对所有 $ k \to \text{infty} $ 和所有 $ s \to \text{in } \text{supp}(\nu) $，有 $ |N_k(s) - P_k(s)| < 1 $，其中 $ N_k(s) $ 为计数，$ P_k(s) $ 为期望计数。
• 该算法具有构造性和确定性，提供了一种实用方法，无需依赖概率存在性证明即可生成低差异序列。
• 对于有理分布，该算法生成周期性序列，其周期等于概率分母的最小公倍数。
• 该差异界限在最优意义下成立，即一般情况下无法将 $ |N_k(s) - P_k(s)| < 1 $ 改进为 $ \text{const} < 1 $，反例已证明此点。
• 该算法需要了解未来分布，且此需求不可避免，如反例所示：当 $ \nu_k $ 在 $ \big{1,\text{...},5\big} $ 上均匀分布时，仅靠局部决策无法维持界限。
• 该结果将Holroyd和Propp定理推广至无限集合和非i.i.i.d.序列，其中定理2是定理1的严格推广。