[論文レビュー] Lower Bounds for Pseudo-Deterministic Counting in a Stream

Vladimir Braverman, Robert Krauthgamer+2 more|arXiv (Cornell University)|Jan 1, 2023

Complexity and Algorithms in Graphs被引用数 2

ひとこと要約

この論文は、データストリームにおける近似カウンティング問題を解く擬似決定的ストリーミングアルゴリズムに対して、ほぼタイトな下界 Ω(√(log n / log log n)) ビットを確立する。著者らは、主要な技術的道具として「シフト検出問題」を導入し、これに対する決定的 O(√(cn))-クエリアルゴリズムを提示する。さらに、この問題からの還元を用いて、モーリスの古典的な確率的カウンタがたった O(log log n) ビットしか使用しないのと同様の空間効率を達成できるような擬似決定的アルゴリズムは存在しないことを証明する。

ABSTRACT

Many streaming algorithms provide only a high-probability relative approximation. These two relaxations, of allowing approximation and randomization, seem necessary -- for many streaming problems, both relaxations must be employed simultaneously, to avoid an exponentially larger (and often trivial) space complexity. A common drawback of these randomized approximate algorithms is that independent executions on the same input have different outputs, that depend on their random coins. Pseudo-deterministic algorithms combat this issue, and for every input, they output with high probability the same ``canonical'' solution. We consider perhaps the most basic problem in data streams, of counting the number of items in a stream of length at most $n$. Morris's counter [CACM, 1978] is a randomized approximation algorithm for this problem that uses $O(\log\log n)$ bits of space, for every fixed approximation factor (greater than $1$). Goldwasser, Grossman, Mohanty and Woodruff [ITCS 2020] asked whether pseudo-deterministic approximation algorithms can match this space complexity. Our main result answers their question negatively, and shows that such algorithms must use $Ω(\sqrt{\log n / \log\log n})$ bits of space. Our approach is based on a problem that we call Shift Finding, and may be of independent interest. In this problem, one has query access to a shifted version of a known string $F\in\{0,1\}^{3n}$, which is guaranteed to start with $n$ zeros and end with $n$ ones, and the goal is to find the unknown shift using a small number of queries. We provide for this problem an algorithm that uses $O(\sqrt{n})$ queries. It remains open whether $poly(\log n)$ queries suffice; if true, then our techniques immediately imply a nearly-tight $Ω(\log n/\log\log n)$ space bound for pseudo-deterministic approximate counting.

研究の動機と目的

• 擬似決定的ストリーミングアルゴリズムが、モーリスのカウンタのような確率的近似アルゴリズムと同等の空間効率を達成できるかどうかを解明すること。
• データストリームにおける擬似決定的近似カウンティングの空間計算量に対して、非自明な下界を確立すること。
• ストリーミングアルゴリズムにおける下界を証明するための新しい原 primitive として「シフト検出問題」を導入し、その分析を行うこと。
• 決定的または確率的アルゴリズムに用いられる既存の技術が、標準出力制約を持つ擬似決定的設定に直接拡張できないことの証明。

提案手法

• 与えられた既知の文字列 F = 0^n P 1^n のシフト版から、未知のシフト s* を少ないクエリ数で特定する「シフト検出問題」を導入する。
• 周期性の検出と証拠検証に基づき、O(√(cn)) クエリで動作する決定的アルゴリズムを構築する。
• 候補となるシフト s が正しいかどうかを確認する検証サブルーチンを設計し、2つのクエリのみで動作させる。
• 近似カウンティング問題をシフト検出問題に還元し、片方が解けるならば他方の制限についても結論が得られることを示す。
• 繰り返しサンプリングと和集合不等式を用いた確率的議論により、シフト検出設定で誤った候補を除外する。
• 2つの状況にわたるハイブリッド解析を適用し、最終的な下界を導出する。ここでは証拠クエリと確率的除外の両方を活用する。

実験結果

リサーチクエスチョン

• RQ1 擬似決定的ストリーミングアルゴリズムによる近似カウンティングは、モーリスのカウンタのような確率的近似アルゴリズムと同様に O(log log n) ビットの空間複雑性を達成できるか？
• RQ2 ストリーム上で近似カウンティング問題を解くための擬似決定的アルゴリズムの最適な空間複雑性は何か？
• RQ3 シフト検出問題は多対数クエリで解けるか？ もしそうなら、その解法により、擬似決定的カウンティングのよりタイトな下界が得られるか？
• RQ4 決定的または確率的アルゴリズムに既知の下界が、擬似決定的設定に拡張可能か、それとも新たな技術が登場するか？

主な発見

• 本論文は、2-近似カウンティング問題を解く任意の擬似決定的ストリーミングアルゴリズムに対して、Ω(√(log n / log log n)) ビットの下界を証明している。
• この下界はほぼタイトであることが示されており、このようなアルゴリズムの上界が O(log n) であること、そして新しい下界が既存の最良の確率的アルゴリズムと対数的要因の範囲内にあることから明らかである。
• O(√(cn)) クエリで解ける新しい問題「シフト検出問題」が導入され、これは下界の証明における重要な技術的要素となっている。
• シフト検出問題が多対数 (poly(log n)) クエリで解けるならば、擬似決定的カウンティングに対してほぼタイトな Ω(log n / log log n) の下界が導かれることが示されている。
• 近似カウンティングをシフト検出問題に還元する新しい還元法を用い、確率的除外と証拠検証の両方を活用して証明が行われている。
• この結果により、ゴールドワッサーら（ITCS 2020）が提起した未解決の問い「擬似決定的アルゴリズムはモーリスのカウンタの空間効率を再現できるか？」に対して、否定的な答えが得られた。