[논문 리뷰] Pseudorandom Generators for Polynomial Threshold Functions

Raghu Meka, David Zuckerman|arXiv (Cornell University)|2009. 10. 21.

Complexity and Algorithms in Graphs참고 문헌 24인용 수 4

한 줄 요약

이 논문은 관성 원리와 단조 독서 일회 분기 프로그램을 사용하여 저차수 다항식 임계함수(PTF)와 반공간에 대한 명시적 가짜난수 생성기(PRGs)를 제안한다. 차수-$ d $ PTF에 대해 $ O(\text{poly}(d)\text{polylog}(n)/\text{poly}(\epsilon)) $의 시드 길이를 달성하고, 반공간에 대해서는 $ O(\log n + \log^2(1/\epsilon)) $의 시드 길이를 확보하여 오류 의존성에 대한 이전의 경계를 크게 향상시키며, 학습 및 최적화 알고리즘의 결정론화를 가능하게 한다.

ABSTRACT

We study the natural question of constructing pseudorandom generators (PRGs) for low-degree polynomial threshold functions (PTFs). We give a PRG with seed-length log n/eps^{O(d)} fooling degree d PTFs with error at most eps. Previously, no nontrivial constructions were known even for quadratic threshold functions and constant error eps. For the class of degree 1 threshold functions or halfspaces, we construct PRGs with much better dependence on the error parameter eps and obtain a PRG with seed-length O(log n + log^2(1/eps)). Previously, only PRGs with seed length O(log n log^2(1/eps)/eps^2) were known for halfspaces. We also obtain PRGs with similar seed lengths for fooling halfspaces over the n-dimensional unit sphere. The main theme of our constructions and analysis is the use of invariance principles to construct pseudorandom generators. We also introduce the notion of monotone read-once branching programs, which is key to improving the dependence on the error rate eps for halfspaces. These techniques may be of independent interest.

연구 동기 및 목표

• 작은 오차로 저차수 다항식 임계함수(PTF)를 속이는 명시적 가짜난수 생성기(PRGs)를 구축하는 것.
• 특히 반공간에 대해 PRG 시드 길이의 오차 매개변수 $\epsilon$ 의존성 향상.
• Goemans-Williamson Max-Cut와 같은 알고리즘의 결정론화에 관련된 구면 캡과 반공간의 교차에 대한 결과 확장.
• 단조 독서 일회 분기 프로그램과 결정론화된 관성 원리와 같은 독립적인 관심을 가질 수 있는 기법 개발.
• 차수-2 PTF와 일반 반공간에 대해 비선형 시드 길이를 갖는 비트리비얼 PRG를 구성하는 오랜 동안 미해결된 문제 해결.

제안 방법

• 저차수 PTF가 특정 가짜난수 분포와 가우시안 측도에서 유사하게 행동함을 보이기 위해 관성 원리를 활용.
• 반공간 PRG의 오차 의존성 향상을 위한 핵심 구조적 도구로 단조 독서 일회 분기 프로그램 도입.
• 8-번 독립 분포를 사용하여 Ailon-Chazelle의 회전 구조를 결정론화하여 가중치 벡터의 정규성 확보.
• 초수렴성과 모멘트 경계를 적용하여 가짜난수 입력 하에서 변환된 가중치 벡터의 $L^4$-노름 제어.
• 작은 공간 기계용 PRG(예: Impagliazzo-Nisan-Wigderson)와 관성 원리를 조합하여 PTF용 PRG 구성.
• 헤이드라드 변환과 8-번 독립성을 기반으로 한 가짜난수 회전 행렬을 조합하여 구면 캡 샘플링 결정론화.

실험 결과

연구 질문

• RQ1 차수-$ d $ 다항식 임계함수에 대해 시드 길이가 $ n $ 에 대해 비선형이고 $ 1/\epsilon $ 에 대해 다항식인 명시적 PRG를 구성할 수 있는가?
• RQ2 반공간 PRG의 시드 길이에 대한 오차 매개변수 $\epsilon$ 의 최적 의존성은 무엇이며, $ O(\log n \cdot \log^2(1/\epsilon)/\epsilon^2) $ 보다 향상시킬 수 있는가?
• RQ3 관성 원리를 사용하여 작은 시드 길이로 구면 캡과 반공간의 교차에 대한 PRG를 구성할 수 있는가?
• RQ4 Ailon-Chazelle의 회전 방법을 결정론화하여 가짜난수 입력 하에서 가중치 벡터의 정규성을 유지할 수 있는가?
• RQ5 단조 독서 일회 분기 프로그램을 사용하여 반공간용 PRG 구성에서 오차 의존성을 지수적으로 향상시킬 수 있는가?

주요 결과

• 이 논문은 차수-$ d $ PTF에 대해 시드 길이 $ 2^{O(d)} \log n / \epsilon^{8d+3} $ 인 명시적 PRG를 구성하였으며, 이러한 함수에 대해 처음으로 비트리비얼 구성이다.
• 반공간에 대해서는 시드 길이 $ O(\log n + \log^2(1/\epsilon)) $ 를 달성하여 이전 최선의 경계인 $ O(\log n \cdot \log^2(1/\epsilon)/\epsilon^2) $ 보다 향상시켰다.
• 구면 캡용 PRG는 $ \epsilon \geq C \log n / n^{1/4} $ 일 때 시드 길이 $ O(\log n + \log^2(1/\epsilon)) $ 를 확보하여 최신 기술 수준과 상수 요소를 제외하고 일치한다.
• 8-번 독립 분포의 사용은 기울인 가중치 벡터가 높은 확률로 정규성을 유지함을 보장하여 관성 원리의 적용을 가능하게 한다.
• 반공간의 개선된 시드 길이는 Nisan의 PRG를 INW PRG로 대체함으로써 단조 기법에서 오차 의존성을 $ \log(1/\epsilon) $ 에서 $ \log^2(1/\epsilon) $ 로 감소시켜 달성되었다.
• 결과적으로 관성 원리와 결정론화된 변환을 조합하면 구조적 함수 클래스에 효과적인 PRG를 도출할 수 있으며, 이는 학습 및 최적화에 대한 함의를 지닌다.