[논문 리뷰] A Fixed-Depth Size-Hierarchy Theorem for AC$^0[\\oplus]$ via the Coin Problem

Limaye, Nutan, Sreenivasaiah, Karteek외 3명|arXiv (Cornell University)|2018. 09. 11.

Machine Learning and Algorithms인용 수 13

한 줄 요약

이 논문은 δ-코인 문제—매개수 δ를 가진 비대칭 동전을 구분하는 문제—를 분석하여, 균일한 AC⁰[⊕] 회로에 대해 처음으로 고정 깊이 크기 계층 정리(fixed-depth size-hierarchy theorem)를 확립한다. AC⁰[⊕] 공식 크기에 대해 상한과 하한이 거의 일치하는 exp(Θ(d(1/δ)^{1/(d-1)}))의 결과를 도출하여, 다항식 인자 이상으로 크기를 증가시키면 고정된 깊이에서 계산 능력이 엄격히 증가함을 증명한다.

ABSTRACT

We prove the first Fixed-depth Size-hierarchy Theorem for uniform AC$^0[\\oplus]$ circuits; in particular, for fixed $d$, the class $\\mathcal{C}_{d,k}$ of uniform AC$^0[\\oplus]$ formulas of depth $d$ and size $n^k$ form an infinite hierarchy. For this, we find the first class of explicit functions giving (up to polynomial factor) matching upper and lower bounds for AC$^0[\\oplus]$ formulas, derived from the $\\delta$-Coin Problem, the computational problem of distinguishing between coins that are heads with probability $(1+\\delta)/2$ or $(1-\\delta)/2,$ where $\\delta$ is a parameter going to $0$. We study this problem's complexity and make progress on both upper bounds and lower bounds. Upper bounds. We find explicit monotone AC$^0$ formulas solving the $\\delta$-coin problem, having depth $d$, size $\\exp(O(d(1/\\delta)^{1/(d-1)}))$, and sample complexity poly$(1/\\delta)$, for constant $d\\ge2$. This matches previous upper bounds of O'Donnell and Wimmer (ICALP 2007) and Amano (ICALP 2009) in terms of size and improves the sample complexity. Lower bounds. The upper bounds are nearly tight even for the stronger model of AC$^0[\\oplus]$ formulas (which allow NOT and Parity gates): any AC$^0[\\oplus]$ formula solving the $\\delta$-coin problem must have size $\\exp(\\Omega(d(1/\\delta)^{1/(d-1)})).$ This strengthens a result of Cohen, Ganor and Raz (APPROX-RANDOM 2014), who prove a similar result for AC$^0$, and a result of Shaltiel and Viola (SICOMP 2010), who give a superpolynomially weaker (still exponential) lower bound. The upper bound is a derandomization involving a use of Janson's inequality (as far as we know, the first such use of the inequality) and classical combinatorial designs. For the lower bound, we prove an optimal (up to constant factor) degree lower bound for multivariate polynomials over $\\mathbb{F}_2$ solving the $\\delta$-coin problem, which may be of independent interest.

연구 동기 및 목표

• 균일한 AC⁰[⊕] 회로에 대해 이전까지 달성되지 않았던 고정 깊이 크기 계층 정리를 확립하는 것.
• AC⁰[⊕] 공식에 대해 δ-코인 문제의 복잡도를 거의 일치하는 상한과 하한을 제공함으로써 해결하는 것.
• 1/δ에 대해 다항식으로 샘플 복잡도를 개선하면서도 최적의 크기를 유지하는 것.
• 새로운 F₂에서의 차수 하한을 통해, 더 강력한 AC⁰[⊕] 모델에서도 상한이 거의 날카로운지 증명하는 것.
• 상한을 확보하기 위해 Janson의 부등식과 조합 설계를 활용한 새로운 비확률화 기법을 개발하는 것.

제안 방법

• 확률적 조합론에서 유래한 Janson의 부등식 기반의 비확률화 프레임워크를 사용하여, δ-코인 문제에 대해 명시적인 단조 AC⁰ 공식을 구성하는 것.
• 고전적인 조합 설계 기법을 활용하여 낮은 샘플 복잡도(poly(1/δ))를 확보하면서도 최적의 크기 상한을 유지하는 것.
• δ-코인 문제를 계산하는 다변수 다항식에 대해 거의 최적의 차수 하한을 증명하고, 이로부터 크기 하한을 이끌어내는 것.
• 확률적 방법과 농도 불등식을 사용하여, 공식이 비대칭 동전을 구분하지 못하는 입력 집합의 측도를 제한하는 것.
• 중앙극한정리와 이항계수 꼬리 추정치를 적용하여 확률 질량의 꼬리 행동을 분석하는 것.
• 오차 확률이 상한으로서 일정 수준 이하로 제한됨을 보여주는 핵심 부등식을 유도하여, 차수 하한을 이끌어내는 것.

실험 결과

연구 질문

• RQ1 균일한 AC⁰[⊕] 회로에 대해 고정 깊이 크기 계층 정리를 확립할 수 있는가?
• RQ2 AC⁰[⊕] 공식 크기와 샘플 복잡도 측면에서 δ-코인 문제의 정확한 복잡도는 무엇인가?
• RQ3 δ-코인 문제를 해결하는 AC⁰[⊕] 공식의 샘플 복잡도를 1/δ에 대해 다항식으로 줄일 수 있는가?
• RQ4 parity 게이트를 허용하더라도, δ-코인 문제에 대한 AC⁰[⊕] 공식 크기 상한이 거의 날카로운가?
• RQ5 δ-코인 문제를 계산하는 F₂-다항식의 차수를 하한으로 제약할 수 있는 방법이 존재하는가? 이는 강력한 회로 크기 하한을 이끌어내는 데 기여하는가?

주요 결과

• 모든 고정 깊이 d ≥ 2에 대해, 크기가 exp(O(d(1/δ)^{1/(d-1)}))이고 샘플 복잡도가 poly(1/δ)인 명시적인 AC⁰[⊕] 공식이 존재하며, 이는 이전의 지수적 샘플 복잡도를 개선한다.
• 상한 크기의 상수가 지수 내에서 최적임을 증명하여, AC⁰에 대해 알려진 최고의 상한과 일치한다.
• δ-코인 문제를 해결하는 모든 AC⁰[⊕] 공식은 크기가 적어도 exp(Ω(d(1/δ)^{1/(d-1)})) 이상이어야 하며, 거의 날카로운 하한을 증명한다.
• Shaltiel과 Viola(지수적 하한 exp(Ω((1/δ)^{1/(d+2)}))) 및 Cohen, Ganor, Raz(AC⁰에 대해 exp(Ω((1/δ)^{1/(d-1)}))의 하한)의 이전 결과를 강화한다.
• δ-코인 문제를 계산하는 다변수 F₂-다항식에 대해 Ω(1/δ_k)의 새로운 차수 하한을 증명하였으며, 이는 상수 인자 범위 내에서 최적이다.
• 비확률화 맥락에서 Janson의 부등식을 사용한 것은 새로운 것으로, 회로 복잡도 및 확률적 조합론 분야에서 별도의 관심을 끌 수 있다.