[论文解读] Inequalities and tail bounds for elementary symmetric polynomial with applications

Parikshit Gopalan, Amir Yehudayoff|arXiv (Cornell University)|Feb 14, 2014

Complexity and Algorithms in Graphs参考文献 8被引用 3

一句话总结

本文建立了实变量初等对称多项式的新不等式，表明若 $ S_k $ 和 $ S_{k+1} $ 相对于 $ S_{k-1} $ 较小，则所有更高次对称多项式 $ S_\ell $（$ \ell > k $）也较小。这导致在 $ k $-wise 独立条件下得到紧致的尾部界限，从而简化了伪随机生成器和 min-wise 独立哈希函数的分析，改进了种子长度对 $ n $ 的依赖关系，在反多项式误差范围内实现了 $ O(\log \log n) $ 的种子长度。

ABSTRACT

We study the extent of independence needed to approximate the product of bounded random variables in expectation, a natural question that has applications in pseudorandomness and min-wise independent hashing. For random variables whose absolute value is bounded by $1$, we give an error bound of the form $σ^{Ω(k)}$ where $k$ is the amount of independence and $σ^2$ is the total variance of the sum. Previously known bounds only applied in more restricted settings, and were quanitively weaker. We use this to give a simpler and more modular analysis of a construction of min-wise independent hash functions and pseudorandom generators for combinatorial rectangles due to Gopalan et al., which also slightly improves their seed-length. Our proof relies on a new analytic inequality for the elementary symmetric polynomials $S_k(x)$ for $x \in \mathbb{R}^n$ which we believe to be of independent interest. We show that if $|S_k(x)|,|S_{k+1}(x)|$ are small relative to $|S_{k-1}(x)|$ for some $k>0$ then $|S_\ell(x)|$ is also small for all $\ell > k$. From these, we derive tail bounds for the elementary symmetric polynomials when the inputs are only $k$-wise independent.

研究动机与目标

• 为实向量中的初等对称多项式 $ S_k(x) $ 建立一个新的分析不等式，证明当 $ S_k $ 和 $ S_{k+1} $ 相对于 $ S_{k-1} $ 较小时，所有更高次对称多项式也较小。
• 在输入仅为 $ k $-wise 独立时，推导初等对称多项式的紧致尾部界限，改进文献中已有的界限。
• 将这些界限应用于简化并改进组合矩形伪随机生成器和 min-wise 独立哈希函数的分析。
• 将伪随机生成器的种子长度减少至 $ O(\log \log n) $，在反多项式误差范围内几乎达到已知下界。
• 为伪随机性和哈希构造的分析提供一种模块化且直观的框架，特别适用于 $ GMR+12 $ 生成器。

提出的方法

• 推导一个新不等式：若 $ |S_k(x)|, |S_{k+1}(x)| < \varepsilon \cdot |S_{k-1}(x)| $，则对所有 $ \ell > k $，有 $ |S_\ell(x)| \ll \varepsilon \cdot |S_{k-1}(x)| $，利用初等对称多项式的性质。
• 利用该不等式，在 $ k $-wise 独立输入下，通过矩界和集中不等式来界定第 $ k $ 个初等对称多项式的 $ L_2 $-范数。
• 使用混合论证法，比较伪随机生成器的输出分布与均匀分布，界定连续混合之间的统计距离。
• 使用 Hölder 不等式和尾部界限，控制混合构造中罕见事件引入的误差，确保误差在 $ \delta $ 以内。
• 通过递归组合哈希函数构造组合矩形的伪随机生成器，其中每个阶段使用 $ k $-wise 独立函数，且 $ k = O(\log(1/\delta)) $。
• 利用对称多项式不等式，界定在有限独立性下有界随机变量乘积的偏差，得到 $ (c_1\sigma)^{c_2k} $ 的误差界。

实验结果

研究问题

• RQ1 在初等对称多项式 $ S_k(x) $、$ S_{k+1}(x) $ 和 $ S_{k-1}(x) $ 满足何种条件下，可保证所有更高次对称多项式 $ S_\ell(x) $（$ \ell > k $）也较小？
• RQ2 当输入仅为 $ k $-wise 独立而非完全独立时，能否为初等对称多项式导出更紧致的尾部界限？
• RQ3 新对称多项式不等式如何用于改进组合矩形伪随机生成器的分析？
• RQ4 在 $ [0,1] $-有界、低方差设定下，实现反多项式误差所需的最小种子长度是多少？
• RQ5 该新不等式能否推广到复数值输入？与文献中现有结果相比有何异同？

主要发现

• 本文证明了一个新不等式：若 $ |S_k(x)| $ 和 $ |S_{k+1}(x)| $ 相对于 $ |S_{k-1}(x)| $ 较小，则对所有 $ \ell > k $，有 $ |S_\ell(x)| $ 也较小，该结果强化并推广了先前结果。
• 对于 $ k $-wise 独立的随机变量 $ X_i \in [-1,1] $，总方差为 $ \sigma^2 $，近似 $ \mathbb{E}[\prod X_i] $ 的误差被限制在 $ (c_1\sigma)^{c_2k} $ 内，其中 $ c_1 > 1 $ 为绝对常数，$ 0 < c_2 < 1 $。
• 当 $ \sigma < 1/(2c_1) $ 时，$ k = O(\log(1/\delta)/\log(1/\sigma)) $-wise 独立足以实现 $ \delta $-误差的乘积期望近似。
• 在 $ [0,1] $-取值、低方差情形下，若 $ \sigma^2 < n^{-\varepsilon} $，则 $ O(1) $-wise 独立已足够实现反多项式误差，优于以往的 $ O\left(\log n\right) $-wise 界限。
• 新分析方法简化并改进了 $ GMR+12 $ 伪随机生成器在组合矩形上的种子长度，将其减少至 $ O(\log \log n) $，几乎达到 $ \Omega(\log \log n) $ 的下界。
• 该方法为分析 min-wise 独立哈希和伪随机生成器提供了模块化且直观的框架，适用于 $ [0,1] $-有界、低方差设定。