[論文レビュー] Pseudorandomness for concentration bounds and signed majorities

Parikshit Gopalan, Daniel M. Kane+1 more|arXiv (Cornell University)|Nov 17, 2014

Complexity and Algorithms in Graphs参考文献 18被引用数 3

ひとこと要約

本稿では、{±1}ⁿ 上の半空間および符号付き多数派を誤差 ε で欺く近似的最適な擬似乱数生成器を提示する。シード長は Õ(log(n/ε)) であり、従来の O(log n + log²(1/ε)) の境界を著しく改善する。この成果は、フーリエ解析的手法と反復的次元削減、段階的独立性の組み合わせにより達成され、チェルノフ型集中不等式および多項式的誤差の下での多数派の近似的最適な確率的アルゴリズムの決定的化を可能にする。

ABSTRACT

The problem of constructing pseudorandom generators that fool halfspaces has been studied intensively in recent times. For fooling halfspaces over the hypercube with polynomially small error, the best construction known requires seed-length O(log^2 n) (MekaZ13). Getting the seed-length down to O(log(n)) is a natural challenge in its own right, which needs to be overcome in order to derandomize RL. In this work we make progress towards this goal by obtaining near-optimal generators for two important special cases: 1) We give a near optimal derandomization of the Chernoff bound for independent, uniformly random bits. Specifically, we show how to generate a x in {1,-1}^n using $ ilde{O}(\log (n/ε))$ random bits such that for any unit vector u, matches the sub-Gaussian tail behaviour predicted by the Chernoff bound up to error eps. 2) We construct a generator which fools halfspaces with {0,1,-1} coefficients with error eps with a seed-length of $ ilde{O}(\log(n/ε))$. This includes the important special case of majorities. In both cases, the best previous results required seed-length of $O(\log n + \log^2(1/ε))$. Technically, our work combines new Fourier-analytic tools with the iterative dimension reduction techniques and the gradually increasing independence paradigm of previous works (KaneMN11, CelisRSW13, GopalanMRTV12).

研究の動機と目的

• 係数が {0,1,-1} の半空間を、近的最適なシード長で欺く擬似乱数生成器（PRG）を構築すること。
• 独立な {±1} 確率変数のチェルノフ不等式の近的最適な決定的化を達成すること。
• 誤差が多項式的である場合に、半空間を欺くためのシード長を O(log n + log²(1/ε)) から Õ(log(n/ε)) に短縮すること。
• O(log n) のシード長で RL を決定的化するという長年の未解決問題を前進させること。

提案手法

• 高次フーリエ係数の影響を制御するため、フーリエ解析的手法と反復的次元削減を組み合わせる。
• 重み付き和の準ガウス型尾部挙動を模倣するために、段階的独立性のパラダイムを採用する。
• 低周波成分と高周波成分をそれぞれ制御する2つのPRGの座標ごとの積を用いる。
• 特性関数の誤差を制御するために、テイラー展開と三角関数積の解析的評価を適用する。
• 独立な {±1} 変数の和の特性関数が指数関数的および多項式的項によって近似可能であるという事実を活用する。
• 小αに対しては測度集中を、大αに対しては特性関数の多項式近似を用いるハイブリッド解析を採用する。

実験結果

リサーチクエスチョン

• RQ1 すべての半空間を {±1}ⁿ 上で誤差 ε で欺く、シード長 Õ(log(n/ε)) のPRGを構築可能か？
• RQ2 重み付き和の独立な {±1} 確率変数に対するチェルノフ不等式の近的最適な決定的化を達成可能か？
• RQ3 係数が {0,1,-1} の半空間を欺くためのシード長を、O(log n + log²(1/ε)) よりも改善可能か？
• RQ4 反復的次元削減とフーリエ解析的技術を組み合わせることで、擬似乱数生成器の誤差境界をより厳密に抑えられるか？

主な発見

• 本稿では、{0,1,-1} 係数のすべての半空間を誤差 ε で欺く明示的PRGを構築し、シード長は Õ(log(n/ε)) である。
• チェルノフ不等式の近的最適な決定的化を達成：任意の単位ベクトル u に対して、内積 u·x が Õ(log(n/ε)) ビットの乱数を用いて、準ガウス型尾部挙動を誤差 ε で再現できる。
• 誤差 ε を達成するためのシード長が Õ(log(n/ε)) であり、従来の O(log n + log²(1/ε)) の境界を改善している。
• この手法により、チェルノフ型尾部不等式に依存するアルゴリズムをブラックボックス的に決定的化でき、計算コストの多項式的増加にとどまる。
• 解析により、和の特性関数は誤差が制御された切り捨てテイラー展開により近似可能であり、その誤差は重みのモーメントによって有界であることが示された。
• 最終的な生成器は、特性関数のパrameter α の異なる領域をそれぞれ処理する2つのPRGの座標ごとの積である。