[论文解读] On K-wise Independent Distributions and Boolean Functions

Derksen, Harm, Ivanov, Peter+2 more|arXiv (Cornell University)|Jan 16, 2012

Complexity and Algorithms in Graphs参考文献 38被引用 22

一句话总结

本文研究了k-wise独立分布（即任意k个比特相互独立）如何‘欺骗’表现出尖锐阈值行为的单调布尔函数。利用线性规划对偶性、矩问题和纠错码工具，作者表明，对于Majority和AND等函数，为保持阈值行为（K2）所需的k值显著高于为保持非临界行为（K1）所需的k值，且通过基于矩的不等式和正交数组构造，得出了紧致的界。

ABSTRACT

We prove several new results about bounded uniform and small-bias distributions. A main message is that, small-bias, even perturbed with noise, does not fool several classes of tests better than bounded uniformity. We prove this for threshold tests, small-space algorithms, and small-depth circuits. In particular, we obtain small-bias distributions that - achieve an optimal lower bound on their statistical distance to any bounded-uniform distribution. This closes a line of research initiated by Alon, Goldreich, and Mansour in 2003, and improves on a result by O'Donnell and Zhao. - have heavier tail mass than the uniform distribution. This answers a question posed by several researchers including Bun and Steinke. - rule out a popular paradigm for constructing pseudorandom generators, originating in a 1989 work by Ajtai and Wigderson. This again answers a question raised by several researchers. For branching programs, our result matches a bound by Forbes and Kelley. Our small-bias distributions above are symmetric. We show that the xor of any two symmetric small-bias distributions fools any bounded function. Hence our examples cannot be extended to the xor of two small-bias distributions, another popular paradigm whose power remains unknown. We also generalize and simplify the proof of a result of Bazzi.

研究动机与目标

• 理解k-wise独立分布如何影响表现出尖锐阈值跃迁的单调布尔函数的行为。
• 区分K1（为保持阈值存在性所需之独立程度）与K2（为保持临界概率pc处的行为所需之独立程度）。
• 表征k-wise独立分布的极值性质，特别是所有比特均为1的概率之最大值与最小值。
• 建立k-wise独立性与多项式逼近之间的联系，特别是更强的“夹逼L1”范数逼近。
• 利用矩问题技术提供正交数组大小的新界，改进GF(q)-值设计的已知结果。

提出的方法

• 利用线性规划对偶性，将k-wise独立下欺骗布尔函数的问题转化为在‘夹逼L1’范数下用实多项式逼近该函数的问题。
• 应用经典矩问题定理（TCMP）来界定k-wise独立分布下全1事件的最大与最小概率。
• 通过矩匹配推导M(n,k,p) = max_Q Q(所有比特均为1)的界：若S为1的个数，则E[S^j] = E[Bin(n,p)^j]对j ≤ k成立。
• 利用线性子空间和纠错码构造（如(u|u+v)构造）构建k-wise独立分布，从而为特定函数定制行为。
• 利用编码理论中的Rao界和Gilbert-Varshamov界，推导正交数组大小的上下界。
• 分析具体函数（AND、Majority、Tribes、渗滤）以表明，即使k随n增长，噪声稳定性也不保证在k-wise独立下具有鲁棒性。

实验结果

研究问题

• RQ1 最小的k值（K2）是多少，使得任意在边际概率p = pc下k-wise独立的分布，都能使单调布尔函数f的行为几乎等同于完全独立的情况？
• RQ2 K2与K1相比如何？K1是为保持尖锐阈值存在性所需最小的k值。
• RQ3 能否对k-wise独立分布下所有n个比特均为1的最大概率进行紧致界定？这对正交数组构造有何含义？
• RQ4 一般k-wise独立分布与由线性正交数组导出的分布之间是否存在根本性差异（尤其是在极值概率方面）？
• RQ5 在k随n增长的情况下，函数的噪声稳定性在多大程度上能保证其在k-wise独立输入下的鲁棒性？

主要发现

• 对于Majority函数，K1 = 2（2-wise独立足以在p < 1/2时保持行为），但K2 = ω(1)（在p = 1/2时需要无界k），且|P(Maj=1) − 1/2| ≤ O(1/√k)。
• 在k-wise独立分布下，所有比特均为1的最大概率被界定为M(n,k,p) ≤ pn / P(Bin(n,1−p) ≤ k/2)，并得到更紧的界，如当k为偶数时，M(n,k,p) ≤ 2√k (kp/(2e(1−p)(n−k/2)))^{k/2}。
• 当p = 1/q且q为素数幂时，M(n,k,p)的界可导出正交数组大小的新下界，在某些情况下优于经典Rao界。
• 存在一个属于A(n,3,1/3)的分布，使得P(全1) = Ω(1/n)，而所有基于线性正交数组的构造均给出P(全1) = O(1/(n log n))，表明一般与线性k-wise独立分布之间存在根本性差距。
• 当p ≥ 1/2时，使得m(n,k,p) = 0（即不存在k-wise独立分布满足P(全1) > 0）的最小n值满足nc(k,p) ≥ k/(2(1−p))（当k为偶数时），且利用Gilbert-Varshamov界和TCMP推导出上界nc(k,p) ≤ C k / ((1−p) log(1/(1−p)))。
• 本文表明，即使对于噪声稳定的函数（如三重迭代Majority），其在k-wise独立输入下的行为也可能与完全独立时大相径庭，即使k随n增长，这挑战了‘稳定性意味着鲁棒性’的直觉。