[论文解读] A Fixed-Depth Size-Hierarchy Theorem for AC$^0[\\oplus]$ via the Coin Problem

Limaye, Nutan, Sreenivasaiah, Karteek+3 more|arXiv (Cornell University)|Sep 11, 2018

Machine Learning and Algorithms被引用 13

一句话总结

该论文通过分析参数为 δ 的 δ-coin 问题（即区分具有偏差的硬币）首次建立了统一 AC⁰[⊕] 电路的固定深度大小层次定理。它为 AC⁰[⊕] 公式大小提供了近乎匹配的上下界，其规模为 exp(Θ(d(1/δ)^{1/(d-1)}))，证明了在固定深度下，当大小超过多项式因子时，计算能力会严格增强。

ABSTRACT

We prove the first Fixed-depth Size-hierarchy Theorem for uniform AC$^0[\\oplus]$ circuits; in particular, for fixed $d$, the class $\\mathcal{C}_{d,k}$ of uniform AC$^0[\\oplus]$ formulas of depth $d$ and size $n^k$ form an infinite hierarchy. For this, we find the first class of explicit functions giving (up to polynomial factor) matching upper and lower bounds for AC$^0[\\oplus]$ formulas, derived from the $\\delta$-Coin Problem, the computational problem of distinguishing between coins that are heads with probability $(1+\\delta)/2$ or $(1-\\delta)/2,$ where $\\delta$ is a parameter going to $0$. We study this problem's complexity and make progress on both upper bounds and lower bounds. Upper bounds. We find explicit monotone AC$^0$ formulas solving the $\\delta$-coin problem, having depth $d$, size $\\exp(O(d(1/\\delta)^{1/(d-1)}))$, and sample complexity poly$(1/\\delta)$, for constant $d\\ge2$. This matches previous upper bounds of O'Donnell and Wimmer (ICALP 2007) and Amano (ICALP 2009) in terms of size and improves the sample complexity. Lower bounds. The upper bounds are nearly tight even for the stronger model of AC$^0[\\oplus]$ formulas (which allow NOT and Parity gates): any AC$^0[\\oplus]$ formula solving the $\\delta$-coin problem must have size $\\exp(\\Omega(d(1/\\delta)^{1/(d-1)})).$ This strengthens a result of Cohen, Ganor and Raz (APPROX-RANDOM 2014), who prove a similar result for AC$^0$, and a result of Shaltiel and Viola (SICOMP 2010), who give a superpolynomially weaker (still exponential) lower bound. The upper bound is a derandomization involving a use of Janson's inequality (as far as we know, the first such use of the inequality) and classical combinatorial designs. For the lower bound, we prove an optimal (up to constant factor) degree lower bound for multivariate polynomials over $\\mathbb{F}_2$ solving the $\\delta$-coin problem, which may be of independent interest.

研究动机与目标

• 建立统一 AC⁰[⊕] 电路的固定深度大小层次定理，此前尚未实现此目标。
• 通过为 AC⁰[⊕] 公式提供近乎匹配的上下界，解决 δ-coin 问题的复杂性。
• 在保持最优大小的同时，将上界中的样本复杂度从指数级降低为 1/δ 的多项式级。
• 通过在 F₂ 上提出一种新的度数下界，证明即使在更强的 AC⁰[⊕] 模型下，上界也近乎紧致。
• 开发一种新颖的去随机化技术，结合 Janson 不等式与组合设计，用于上界证明。

提出的方法

• 基于概率组合学中的 Janson 不等式，构建用于 δ-coin 问题的显式单调 AC⁰ 公式，采用去随机化框架。
• 利用经典组合设计，在保持最优大小界的同时实现低样本复杂度（poly(1/δ)）。
• 证明计算 δ-coin 问题的多元 F₂ 多项式具有近乎最优的度数下界，该下界可推出大小下界。
• 使用概率方法和集中不等式，界定公式无法区分有偏硬币的输入集合的测度。
• 应用中心极限定理和二项系数的尾部估计，分析概率质量在尾部的行为。
• 推导出一个关键不等式，涉及二项系数与指数衰减项，证明错误概率有下界常数，从而支持度数下界的建立。

实验结果

研究问题

• RQ1 能否为统一 AC⁰[⊕] 电路建立固定深度大小层次定理？
• RQ2 δ-coin 问题在 AC⁰[⊕] 公式大小和样本复杂度方面的精确复杂度是什么？
• RQ3 能否将解决 δ-coin 问题的 AC⁰[⊕] 公式样本复杂度从 1/δ 的指数级降低为多项式级？
• RQ4 即使允许使用异或门，AC⁰[⊕] 公式大小的上界是否也近乎紧致？
• RQ5 能否以一种能推出强电路大小下界的方式，对计算 δ-coin 问题的 F₂ 多项式度数给出下界？

主要发现

• 对于任意固定深度 d ≥ 2，存在显式 AC⁰[⊕] 公式，其大小为 exp(O(d(1/δ)^{1/(d-1)}))，样本复杂度为 poly(1/δ)，相比先前的指数级样本复杂度有显著改进。
• 该大小上界在指数常数范围内最优，与 AC⁰ 的最佳已知上界一致。
• 任何解决 δ-coin 问题的 AC⁰[⊕] 公式，其大小至少为 exp(Ω(d(1/δ)^{1/(d-1)}))，证明了近乎紧致的下界。
• 该下界强化了先前结果：Shaltiel 和 Viola（exp(Ω((1/δ)^{1/(d+2)}))) 以及 Cohen、Ganor 和 Raz（AC⁰ 情况下为 exp(Ω((1/δ)^{1/(d-1)}))）。
• 证明了计算 δ-coin 问题的多元 F₂ 多项式具有 Ω(1/δ_k) 的新度数下界，该下界在常数因子范围内最优。
• 在去随机化背景下首次应用 Janson 不等式，该方法本身可能在电路复杂性和概率组合学中具有独立兴趣。