[논문 리뷰] Pseudorandomness for concentration bounds and signed majorities

Parikshit Gopalan, Daniel M. Kane외 1명|arXiv (Cornell University)|2014. 11. 17.

Complexity and Algorithms in Graphs참고 문헌 18인용 수 3

한 줄 요약

이 논문은 {±1}ⁿ 위에서 반평면과 부호가 있는 다수결을 오차 ε로 속이기 위한 거의 최적의 가짜난수 생성기(PrG)를 제시한다. 이 생성기의 시드 길이는 Õ(log(n/ε))이며, 이는 이전의 O(log n + log²(1/ε)) bound 보다 크게 향상된 것이다. 이는 푸리에 분석 도구와 반복적 차원 감소, 점진적 독립성 증가를 조합함으로써 달성되었으며, 체르노프 유형의 농도 경계와 다수결의 거의 최적의 결정론화를 가능하게 한다. 오차가 다항적으로 작은 경우에 대해 근사 최적의 결정론화를 실현한다.

ABSTRACT

The problem of constructing pseudorandom generators that fool halfspaces has been studied intensively in recent times. For fooling halfspaces over the hypercube with polynomially small error, the best construction known requires seed-length O(log^2 n) (MekaZ13). Getting the seed-length down to O(log(n)) is a natural challenge in its own right, which needs to be overcome in order to derandomize RL. In this work we make progress towards this goal by obtaining near-optimal generators for two important special cases: 1) We give a near optimal derandomization of the Chernoff bound for independent, uniformly random bits. Specifically, we show how to generate a x in {1,-1}^n using $ ilde{O}(\log (n/ε))$ random bits such that for any unit vector u, matches the sub-Gaussian tail behaviour predicted by the Chernoff bound up to error eps. 2) We construct a generator which fools halfspaces with {0,1,-1} coefficients with error eps with a seed-length of $ ilde{O}(\log(n/ε))$. This includes the important special case of majorities. In both cases, the best previous results required seed-length of $O(\log n + \log^2(1/ε))$. Technically, our work combines new Fourier-analytic tools with the iterative dimension reduction techniques and the gradually increasing independence paradigm of previous works (KaneMN11, CelisRSW13, GopalanMRTV12).

연구 동기 및 목표

• 시드 길이가 거의 최적인 가짜난수 생성기(PRg)를 구성하여 {0,1,-1} 계수를 가진 반평면을 오차 ε로 속이는 것.
• 독립적인 {±1} 랜덤 변수에 대해 체르노프 경계의 거의 최적의 결정론화를 달성하는 것.
• 오차가 다항적으로 작은 경우에 대해 반평면을 속이기 위한 시드 길이를 O(log n + log²(1/ε))에서 Õ(log(n/ε))로 줄이는 것.
• O(log n) 시드 길이로 RL을 결정론화하는 장기적인 열린 문제를 진전시키는 것.

제안 방법

• 고도수 푸리에 계수의 영향을 제어하기 위해 푸리에 분석 도구와 반복적 차원 감소를 조합한다.
• 점차적 독립성 원리를 활용하여 가중치 합의 서브-가우시안 尾행동을 시뮬레이션한다.
• 낮은 주파수 성분과 높은 주파수 성분을 각각 다루는 두 PRg의 좌표별 곱을 사용한다.
• 특성 함수의 오차를 제어하기 위해 테일러 전개와 삼각함수 곱의 해석적 경계를 적용한다.
• 독립적인 {±1} 변수의 합의 특성 함수는 지수 및 다항식 항으로 근사될 수 있다는 사실을 활용한다.
• 하나의 분석 프레임워크를 사용하여, 작은 α에 대해서는 측도 집중을, 큰 α에 대해서는 특성 함수의 다항식 근사를 적용한다.

실험 결과

연구 질문

• RQ1 모든 {±1}ⁿ 위의 반평면을 오차 ε로 속이는 시드 길이가 Õ(log(n/ε))인 PRg를 구성할 수 있는가?
• RQ2 독립적인 {±1} 변수의 가중치 합에 대해 체르노프 경계의 거의 최적의 결정론화를 달성할 수 있는가?
• RQ3 {0,1,-1} 계수를 가진 반평면을 속이기 위한 시드 길이를 O(log n + log²(1/ε))를 초월해 향상시킬 수 있는가?
• RQ4 반복적 차원 감소와 푸리에 분석 기법을 조합하면, 가짜난수 생성기의 오차 경계를 더 날카롭게 만들 수 있는가?

주요 결과

• 논문은 {0,1,-1} 계수를 가진 모든 반평면을 오차 ε로 속이는 명시적 PRg를 구성한다. 이 생성기의 시드 길이는 Õ(log(n/ε))이다.
• 체르노프 경계의 거의 최적의 결정론화를 달성한다: 임의의 단위 벡터 u에 대해 내적 u·x는 Õ(log(n/ε))의 랜덤 비트를 사용해 서브-가우시안 尾행동을 오차 ε 이내로 모방한다.
• 오차 ε를 달성하기 위해 시드 길이를 Õ(log(n/ε))로 줄였으며, 이는 이전의 O(log n + log²(1/ε)) bound 보다 향상된 것이다.
• 이 방법은 체르노프 유형의 尾경계에 의존하는 알고리즘의 블랙박스 결정론화를 가능하게 하며, 오직 다항적 속도 저하만을 수반한다.
• 분석 결과 특성 함수는 제어된 오차를 갖는 단절된 테일러 전개로 근사될 수 있으며, 이 오차는 가중치의 모멘트로 유계된다.
• 최종 생성기는 두 PRg의 좌표별 곱으로 이루어지며, 각각 특성 함수 매개변수 α의 다른 영역를 처리한다.