[论文解读] Degree and Sensitivity: tails of two distributions

Parikshit Gopalan, Rocco A. Servedio+2 more|arXiv (Cornell University)|Apr 25, 2016

Commutative Algebra and Its Applications被引用 5

一句话总结

该论文证明，任何灵敏度为 $ s $ 的布尔函数均可被一个实多项式以 $ \epsilon $-近似，其次数为 $ O(s \cdot \log(1/\epsilon)) $，显著优于 folklore 的 $ O(s/\epsilon) $ 边界。关键洞见在于为低灵敏度函数提出了一种新颖的开关引理，通过分析其灵敏度图 $ G_f $ 的结构，表明随机限制可使函数的决策树深度降低，从而实现近乎匹配灵敏度猜想推论的强近似界。

ABSTRACT

The sensitivity of a Boolean function f is the maximum over all inputs x, of the number of sensitive coordinates of x. The well-known sensitivity conjecture of Nisan (see also Nisan and Szegedy) states that every sensitivity-s Boolean function can be computed by a polynomial over the reals of degree poly(s). The best known upper bounds on degree, however, are exponential rather than polynomial in s. Our main result is an approximate version of the conjecture: every Boolean function with sensitivity s can be epsilon-approximated (in L_2) by a polynomial whose degree is O(s log(1/epsilon)). This is the first improvement on the folklore bound of s/epsilon. Further, we show that improving the bound to O(s^c log(1/epsilon)^d)$ for any d < 1 and any c > 0 will imply the sensitivity conjecture. Thus our result is essentially the best one can hope for without proving the conjecture. We postulate a robust analogue of the sensitivity conjecture: if most inputs to a Boolean function f have low sensitivity, then most of the Fourier mass of f is concentrated on small subsets, and present an approach towards proving this conjecture.

研究动机与目标

• 为解决长期存在的灵敏度猜想，提供改进的次数边界的近似版本。
• 分析灵敏度图 $ G_f $ 的组合结构，引入如树灵敏度和分量维数等新复杂度度量。
• 建立灵敏度猜想的稳健变体，将大多数输入上的低灵敏度与傅里叶质量集中联系起来。
• 为低灵敏度函数开发一种新型开关引理，类似于 $\mathsf{AC^0}$ 电路理论中的引理。
• 将结果应用于学习理论与傅里叶分析，得出关于傅里叶系数与熵-影响关系的新界。

提出的方法

• 引入灵敏度图 $ G_f $，其中顶点为输入，若两输入仅在一个坐标上不同且函数值不同，则连边。
• 定义新的图复杂度度量：树灵敏度 $ \operatorname{ts}(f) $、决策树深度 $ \operatorname{dt}(f) $ 与分量维数 $ \operatorname{cdim}(f) $。
• 证明一个开关引理，表明低灵敏度函数的随机限制以高概率产生决策树深度较低的函数。
• 利用 $ G_f $ 的结构证明，全次数函数必须具有复杂图结构，使其在随机限制下难以存活。
• 应用马尔可夫不等式与 $ \ell_2 $-近似理论，以 $ s(f) \cdot \log(1/\epsilon) $ 的形式界定近似多项式的次数。
• 基于汉明码构造显式函数，证明次数界中 $ \log(1/\epsilon) $ 的依赖关系本质上是紧的。

实验结果

研究问题

• RQ1 低灵敏度布尔函数的多项式近似次数能否在 folklore 的 $ O(s/\epsilon) $ 边界之上进一步改进？
• RQ2 是否存在灵敏度猜想的稳健版本，即低平均灵敏度是否意味着傅里叶质量集中在低次集合上？
• RQ3 决策树深度与树灵敏度之间的关系能否被加强以推出灵敏度猜想？
• RQ4 在给定灵敏度 $ s $ 的前提下，近似多项式次数对 $ \epsilon $ 的最紧依赖关系是什么？
• RQ5 对 $ G_f $ 引入的新图论复杂度度量（如分量维数）是否能为低灵敏度函数的结构提供更深层次的洞见？

主要发现

• 任何灵敏度为 $ s $ 的布尔函数均可在 $ \ell_2 $-范数下被一个次数为 $ O(s \cdot \log(1/\epsilon)) $ 的实多项式以 $ \epsilon $-近似，优于 folklore 的 $ O(s/\epsilon) $ 边界。
• 若能将边界改进为 $ O(s^c \cdot \log(1/\epsilon)^\gamma) $，其中 $ \gamma < 1 $ 且 $ c > 0 $，则可推出完整的灵敏度猜想。
• $ \log(1/\epsilon) $ 的依赖关系本质上是紧的：基于汉明码的一族函数表明，$ O(s \cdot \log(1/\epsilon)^\gamma) $（$ \gamma < 1 $）是不可能的。
• 为低灵敏度函数提出的新开关引理证明，随机限制以高概率产生决策树深度较低的函数，其依据是 $ G_f $ 的图结构。
• 本文证明了树灵敏度对决策树深度的下界，并表明若该下界可被多项式形式加强，则可推出稳健的灵敏度猜想。
• 对于构造的一族函数，其在层级 $ \Theta(s \cdot \log(1/\epsilon)/\log\log(1/\epsilon)) $ 的傅里叶权重至少为 $ \epsilon $，证明了近似边界的紧致性。