[论文解读] Pseudorandom Generators for Polynomial Threshold Functions

Raghu Meka, David Zuckerman|arXiv (Cornell University)|Oct 21, 2009

Complexity and Algorithms in Graphs参考文献 24被引用 4

一句话总结

本文提出了用于低次多项式阈值函数（PTFs）和半空间的显式伪随机生成器（PRGs），采用不变性原理和单调的只读一次分支程序。对于度数为 $ d $ 的 PTF，其种子长度为 $ O(\text{poly}(d)\text{polylog}(n)/\text{poly}(\epsilon)) $；对于半空间，其种子长度为 $ O(\log n + \log^2(1/\epsilon)) $，显著改进了先前在误差依赖性方面的界限，并实现了学习与优化算法的去随机化。

ABSTRACT

We study the natural question of constructing pseudorandom generators (PRGs) for low-degree polynomial threshold functions (PTFs). We give a PRG with seed-length log n/eps^{O(d)} fooling degree d PTFs with error at most eps. Previously, no nontrivial constructions were known even for quadratic threshold functions and constant error eps. For the class of degree 1 threshold functions or halfspaces, we construct PRGs with much better dependence on the error parameter eps and obtain a PRG with seed-length O(log n + log^2(1/eps)). Previously, only PRGs with seed length O(log n log^2(1/eps)/eps^2) were known for halfspaces. We also obtain PRGs with similar seed lengths for fooling halfspaces over the n-dimensional unit sphere. The main theme of our constructions and analysis is the use of invariance principles to construct pseudorandom generators. We also introduce the notion of monotone read-once branching programs, which is key to improving the dependence on the error rate eps for halfspaces. These techniques may be of independent interest.

研究动机与目标

• 构建能够以小误差欺骗低次多项式阈值函数（PTFs）的显式伪随机生成器（PRGs）。
• 改进PRG种子长度中对误差参数 $\epsilon$ 的依赖关系，特别是针对半空间情形。
• 将结果扩展至球面帽和半空间的交集，这些情形与Goemans-Williamson最大割算法的去随机化密切相关。
• 发展可能具有独立兴趣的技术，例如单调只读一次分支程序和去随机化的不变性原理。
• 解决长期悬而未决的开放问题：为度数为2的PTFs和一般半空间构造具有次线性种子长度的非平凡PRGs。

提出的方法

• 利用不变性原理表明，低次PTF在某些伪随机分布和高斯测度下表现相似。
• 引入单调只读一次分支程序作为关键结构工具，以改进半空间PRG中的误差依赖性。
• 使用 $8$-次独立分布对Ailon-Chazelle旋转构造进行去随机化，确保权重向量以高概率保持正则性。
• 应用超展开性和矩界，控制在伪随机输入下变换后权重向量的 $L^4$-范数。
• 将不变性原理与小空间机器的PRGs（如Impagliazzo-Nisan-Wigderson）相结合，构造PTF的PRGs。
• 通过组合PRG与由Hadamard变换和 $8$-次独立性导出的伪随机旋转矩阵，实现球面帽采样的去随机化。

实验结果

研究问题

• RQ1 我们能否为度数为 $ d $ 的多项式阈值函数构造显式PRGs，使得种子长度在 $ n $ 上为次线性且在 $ 1/\epsilon $ 上为多项式？
• RQ2 半空间PRGs的种子长度对误差参数 $\epsilon$ 的最优依赖关系是什么？能否将其改进至 $ O(\log n \cdot \log^2(1/\epsilon)/\epsilon^2) $ 以下？
• RQ3 不变性原理能否用于构造具有小种子长度的球面帽和半空间交集的PRGs？
• RQ4 Ailon-Chazelle旋转方法能否被去随机化，以在伪随机输入下保持权重向量的正则性？
• RQ5 单调只读一次分支程序能否用于实现半空间PRG构造中误差依赖性的指数级改进？

主要发现

• 本文构造了一个度数为 $ d $ 的PTF的显式PRG，其种子长度为 $ 2^{O(d)} \log n / \epsilon^{8d+3} $，这是此类函数的首个非平凡构造。
• 对于半空间，其种子长度达到 $ O(\log n + \log^2(1/\epsilon)) $，优于先前的最佳界限 $ O(\log n \cdot \log^2(1/\epsilon)/\epsilon^2) $。
• 球面帽的PRG在 $ \epsilon \geq C \log n / n^{1/4} $ 条件下实现种子长度 $ O(\log n + \log^2(1/\epsilon)) $，与当前最优结果仅相差常数因子。
• 使用 $ 8 $-次独立分布可确保旋转后的权重向量以高概率保持正则性，从而支持不变性原理的应用。
• 半空间种子长度的改进源于在单调技巧中用INW PRG替代Nisan的PRG，将误差依赖性从 $ \log(1/\epsilon) $ 降低至 $ \log^2(1/\epsilon) $。
• 结果表明，结合不变性原理与去随机化变换可有效构造结构化函数类的PRGs，对学习与优化具有深远影响。