[論文レビュー] A Fixed-Depth Size-Hierarchy Theorem for AC$^0[\\oplus]$ via the Coin Problem

Limaye, Nutan, Sreenivasaiah, Karteek+3 more|arXiv (Cornell University)|Sep 11, 2018

Machine Learning and Algorithms被引用数 13

ひとこと要約

この論文は、δ-コイン問題（パrameter δ における偏りのあるコインを区別すること）を分析することで、uniform AC⁰[⊕]回路における最初の固定深さサイズ階層定理を確立した。AC⁰[⊕]論理式サイズに関して、exp(Θ(d(1/δ)^{1/(d-1)})) のほぼ一致する上界と下界を提供し、固定深さにおいて多項式要因を超えてサイズを増加させることで、計算能力が厳密に向上することを証明した。

ABSTRACT

We prove the first Fixed-depth Size-hierarchy Theorem for uniform AC$^0[\\oplus]$ circuits; in particular, for fixed $d$, the class $\\mathcal{C}_{d,k}$ of uniform AC$^0[\\oplus]$ formulas of depth $d$ and size $n^k$ form an infinite hierarchy. For this, we find the first class of explicit functions giving (up to polynomial factor) matching upper and lower bounds for AC$^0[\\oplus]$ formulas, derived from the $\\delta$-Coin Problem, the computational problem of distinguishing between coins that are heads with probability $(1+\\delta)/2$ or $(1-\\delta)/2,$ where $\\delta$ is a parameter going to $0$. We study this problem's complexity and make progress on both upper bounds and lower bounds. Upper bounds. We find explicit monotone AC$^0$ formulas solving the $\\delta$-coin problem, having depth $d$, size $\\exp(O(d(1/\\delta)^{1/(d-1)}))$, and sample complexity poly$(1/\\delta)$, for constant $d\\ge2$. This matches previous upper bounds of O'Donnell and Wimmer (ICALP 2007) and Amano (ICALP 2009) in terms of size and improves the sample complexity. Lower bounds. The upper bounds are nearly tight even for the stronger model of AC$^0[\\oplus]$ formulas (which allow NOT and Parity gates): any AC$^0[\\oplus]$ formula solving the $\\delta$-coin problem must have size $\\exp(\\Omega(d(1/\\delta)^{1/(d-1)})).$ This strengthens a result of Cohen, Ganor and Raz (APPROX-RANDOM 2014), who prove a similar result for AC$^0$, and a result of Shaltiel and Viola (SICOMP 2010), who give a superpolynomially weaker (still exponential) lower bound. The upper bound is a derandomization involving a use of Janson's inequality (as far as we know, the first such use of the inequality) and classical combinatorial designs. For the lower bound, we prove an optimal (up to constant factor) degree lower bound for multivariate polynomials over $\\mathbb{F}_2$ solving the $\\delta$-coin problem, which may be of independent interest.

研究の動機と目的

• uniform AC⁰[⊕]回路における固定深さサイズ階層定理を確立すること。これは、以前に達成されていなかった。
• AC⁰[⊕]論理式のためのほぼ一致する上界と下界を提供することで、δ-コイン問題の複雑さを解明すること。
• 1/δ における多項式にまでサンプル複雑性を改善しながら、最適なサイズを維持すること。
• 上界が、より強力なAC⁰[⊕]モデルに対してもほぼタイトであることを示すために、F₂ 上の新しい次数下界を用いて証明すること。
• 上界を達成するための、Jansonの不等式と組合せデザインを用いた新しい確率的除去技術を開発すること。

提案手法

• 確率的組合せ論におけるJansonの不等式に基づく確率的除去フレームワークを用いて、δ-コイン問題のための明示的な単調AC⁰論理式を構築する。
• 古典的な組合せデザインを用いて、低サンプル複雑性（poly(1/δ)）を達成しながら、最適なサイズ境界を維持する。
• δ-コイン問題を計算する多変数多項式のほぼ最適な次数下界をF₂上で証明し、それがサイズ下界を示すことを示す。
• 確率的補題と集中不等式を用いて、論理式が偏りのあるコインを区別できない入力集合の測度を評価する。
• 中心極限定理と二項係数の尾部推定を用いて、確率質量の尾部における挙動を分析する。
• 誤差の確率が定数以下に下界で抑えられることを示すために、二項係数と指数的減衰項を含む重要な不等式を導出する。

実験結果

リサーチクエスチョン

• RQ1 uniform AC⁰[⊕]回路における固定深さサイズ階層を確立できるか？
• RQ2 AC⁰[⊕]論理式サイズとサンプル複雑性に関して、δ-コイン問題の正確な複雑さは何か？
• RQ3 AC⁰[⊕]論理式がδ-コイン問題を解く際のサンプル複雑性を、1/δ に関して指数的から多項式にまで低下させられるか？
• RQ4 AC⁰[⊕]論理式サイズに対する上界が、パリティゲートを許容してもほぼタイトであるか？
• RQ5 F₂多項式の次数を、強い回路サイズ下界を示すように下界で抑えられるか？

主な発見

• 任意の固定深さ d ≥ 2 に対して、サイズ exp(O(d(1/δ)^{1/(d-1)})) かつサンプル複雑性 poly(1/δ) の明示的なAC⁰[⊕]論理式が存在し、これにより従来の指数的サンプル複雑性が改善された。
• 上界のサイズは指数部の定数を除いて最適であり、AC⁰の既知の最良上界と一致する。
• δ-コイン問題を解く任意のAC⁰[⊕]論理式は、少なくとも exp(Ω(d(1/δ)^{1/(d-1)})) のサイズを持つ必要があり、ほぼタイトな下界を証明した。
• ShaltielとViola（exp(Ω((1/δ)^{1/(d+2)}))）およびCohen、Ganor、Raz（AC⁰のための exp(Ω((1/δ)^{1/(d-1)}))）の先行結果を強化した。
• δ-コイン問題を計算する多変数F₂多項式に対して、Ω(1/δ_k) の新しい次数下界を証明し、これは定数因子を除いて最適である。
• 確率的除去の文脈でJansonの不等式を用いることは画期的であり、回路複雑性と確率的組合せ論の分野において独立した関心を引く可能性がある。