[论文解读] Pseudorandomness for concentration bounds and signed majorities

Parikshit Gopalan, Daniel M. Kane+1 more|arXiv (Cornell University)|Nov 17, 2014

Complexity and Algorithms in Graphs参考文献 18被引用 3

一句话总结

本文提出了一种近似最优的伪随机生成器，可对 {±1}ⁿ 上的半空间和带符号多数函数进行欺骗，其种子长度为 Õ(log(n/ε))，显著优于先前的 O(log n + log²(1/ε)) 边界。该方法通过结合傅里叶分析工具与迭代维数约减，并逐步增加独立性，实现了切尔诺夫型集中不等式和多项式小误差下多数函数的近似最优去随机化。

ABSTRACT

The problem of constructing pseudorandom generators that fool halfspaces has been studied intensively in recent times. For fooling halfspaces over the hypercube with polynomially small error, the best construction known requires seed-length O(log^2 n) (MekaZ13). Getting the seed-length down to O(log(n)) is a natural challenge in its own right, which needs to be overcome in order to derandomize RL. In this work we make progress towards this goal by obtaining near-optimal generators for two important special cases: 1) We give a near optimal derandomization of the Chernoff bound for independent, uniformly random bits. Specifically, we show how to generate a x in {1,-1}^n using $ ilde{O}(\log (n/ε))$ random bits such that for any unit vector u, matches the sub-Gaussian tail behaviour predicted by the Chernoff bound up to error eps. 2) We construct a generator which fools halfspaces with {0,1,-1} coefficients with error eps with a seed-length of $ ilde{O}(\log(n/ε))$. This includes the important special case of majorities. In both cases, the best previous results required seed-length of $O(\log n + \log^2(1/ε))$. Technically, our work combines new Fourier-analytic tools with the iterative dimension reduction techniques and the gradually increasing independence paradigm of previous works (KaneMN11, CelisRSW13, GopalanMRTV12).

研究动机与目标

• 构造一个种子长度接近最优的伪随机生成器（PRG），用于欺骗系数为 {0,1,-1} 的半空间。
• 实现对独立 {±1} 随机变量的切尔诺夫不等式的近似最优去随机化。
• 将欺骗系数为 {0,1,-1} 的半空间的种子长度从 O(log n + log²(1/ε)) 降低至 Õ(log(n/ε))，适用于多项式小误差。
• 推进长期悬而未决的难题：使用 O(log n) 种子长度实现 RL 的去随机化。

提出的方法

• 结合傅里叶分析工具与迭代维数约减，以控制高阶傅里叶系数的影响。
• 采用逐步增加独立性的范式，以模拟加权和的次高斯尾部行为。
• 使用两个 PRG 的逐坐标乘积：一个用于控制低频分量，另一个用于控制高频分量。
• 应用泰勒展开及三角函数乘积的分析界，以控制特征函数中的误差。
• 利用独立 {±1} 变量之和的特征函数可通过指数项和多项式项近似这一事实。
• 采用混合分析方法：对于小的 α，使用测度集中；对于大的 α，使用特征函数的多项式逼近。

实验结果

研究问题

• RQ1 我们能否构造一个种子长度为 Õ(log(n/ε)) 的 PRG，使得其对 {±1}ⁿ 上的所有半空间的欺骗误差为 ε？
• RQ2 我们能否实现对独立 {±1} 变量加权和的切尔诺夫不等式的近似最优去随机化？
• RQ3 我们能否将欺骗系数为 {0,1,-1} 的半空间的种子长度改进至 O(log n + log²(1/ε)) 以下？
• RQ4 将迭代维数约减与傅里叶分析技术结合，能否为伪随机生成器带来更紧的误差界？

主要发现

• 本文构造了一个显式 PRG，其种子长度为 Õ(log(n/ε))，可对所有系数为 {0,1,-1} 的半空间实现误差 ε 内的欺骗。
• 它实现了切尔诺夫不等式的近似最优去随机化：对于任意单位向量 u，内积 u·x 的尾部行为可与次高斯分布匹配，误差为 ε，且仅使用 Õ(log(n/ε)) 随机位。
• 该生成器以 Õ(log(n/ε)) 的种子长度实现误差 ε，优于先前的 O(log n + log²(1/ε)) 边界。
• 该方法可实现黑箱去随机化，对依赖于切尔诺夫型尾部界算法仅造成多项式时间的缓慢增加。
• 分析表明，和的特征函数可通过截断泰勒展开近似，且误差受权重矩的控制。
• 最终的生成器是两个 PRG 的逐坐标乘积，每个 PRG 分别处理特征函数参数 α 的不同区间。