[논문 리뷰] Lower Bounds for Pseudo-Deterministic Counting in a Stream

Vladimir Braverman, Robert Krauthgamer외 2명|arXiv (Cornell University)|2023. 01. 01.

Complexity and Algorithms in Graphs인용 수 2

한 줄 요약

이 논문은 데이터 스트림에서 근사 카운팅 문제를 해결하는 의사결정적 스트리밍 알고리즘에 대해 거의 날것 같은 하한선 Ω(√(log n / log log n)) 비트를 확립한다. 저자들은 핵심 기술적 도구로 '시프트 찾기 문제'를 도입하고, 이에 대해 O(√(cn))-질의 결정적 알고리즘을 제시하며, 이 문제로부터의 감소를 통해 의사결정적 알고리즘이 모리스의 고전적인 랜덤화 카운터가 사용하는 O(log log n) 비트의 공간 효율성에 도달할 수 없다는 것을 증명한다.

ABSTRACT

Many streaming algorithms provide only a high-probability relative approximation. These two relaxations, of allowing approximation and randomization, seem necessary -- for many streaming problems, both relaxations must be employed simultaneously, to avoid an exponentially larger (and often trivial) space complexity. A common drawback of these randomized approximate algorithms is that independent executions on the same input have different outputs, that depend on their random coins. Pseudo-deterministic algorithms combat this issue, and for every input, they output with high probability the same ``canonical'' solution. We consider perhaps the most basic problem in data streams, of counting the number of items in a stream of length at most $n$. Morris's counter [CACM, 1978] is a randomized approximation algorithm for this problem that uses $O(\log\log n)$ bits of space, for every fixed approximation factor (greater than $1$). Goldwasser, Grossman, Mohanty and Woodruff [ITCS 2020] asked whether pseudo-deterministic approximation algorithms can match this space complexity. Our main result answers their question negatively, and shows that such algorithms must use $Ω(\sqrt{\log n / \log\log n})$ bits of space. Our approach is based on a problem that we call Shift Finding, and may be of independent interest. In this problem, one has query access to a shifted version of a known string $F\in\{0,1\}^{3n}$, which is guaranteed to start with $n$ zeros and end with $n$ ones, and the goal is to find the unknown shift using a small number of queries. We provide for this problem an algorithm that uses $O(\sqrt{n})$ queries. It remains open whether $poly(\log n)$ queries suffice; if true, then our techniques immediately imply a nearly-tight $Ω(\log n/\log\log n)$ space bound for pseudo-deterministic approximate counting.

연구 동기 및 목표

• 의사결정적 스트리밍 알고리즘이 모리스의 카운터와 같은 랜덤화 근사 알고리즘의 공간 효율성을 따라올 수 있는지 여부를 해결하기 위해.
• 데이터 스트림에서 의사결정적 근사 카운팅의 공간 복잡도에 비현실적인 하한선을 설정하기 위해.
• 하한선을 증명하기 위한 새로운 원천으로서 '시프트 찾기 문제'를 도입하고 분석하기 위해.
• 기존의 결정적 또는 랜덤화 알고리즘 기법이 의사결정적 환경으로 직접 확장되지 않음을 보여주기 위해, 표준 출력 제약 조건의 영향을 고려하기 위해.

제안 방법

• 주어진 알려진 문자열 F = 0^n P 1^n 의 변형된 시프트된 형태에서, 알려지지 않은 시프트 s* 를 적은 수의 질의로 찾는 '시프트 찾기 문제'를 도입한다.
• 주기성 탐지와 증거 검증 기반으로 O(√(cn)) 질의를 사용하는 결정적 알고리즘을 개발한다.
• 후보 시프트 s 가 올바른지 확인하기 위해 단 두 개의 질의만 사용하는 검증 서브루틴을 설계한다.
• 근사 카운팅 문제를 시프트 찾기 문제로 감소시켜, 한쪽 문제를 해결하면 다른 문제의 복잡도에 대한 근거를 제시한다.
• 반복적 샘플링과 유니온 바운드를 사용한 확률적 추론을 통해 시프트 찾기 설정에서 잘못된 후보를 제거한다.
• 두 가지 시나리오에 걸쳐 하이브리드 분석을 적용하여 최종 하한선을 유도하며, 증거 질의와 확률적 제거 기법을 모두 활용한다.

실험 결과

연구 질문

• RQ1 의사결정적 스트리밍 알고리즘이 근사 카운팅 문제를 해결할 때, 모리스의 카운터와 마찬가지로 O(log log n) 공간 복잡도를 달성할 수 있는가?
• RQ2 스트림에서 근사 카운팅 문제를 해결하는 의사결정적 알고리즘의 최적 공간 복잡도는 무엇인가?
• RQ3 시프트 찾기 문제는 다항로그 수준의 질의로 해결 가능한가? 그리고 그러한 해결책이 의사결정적 카운팅에 대해 더 날것 같은 하한선을 도출할 수 있는가?
• RQ4 기존의 결정적 또는 랜덤화 알고리즘에 대한 하한선이 의사결정적 환경으로 확장되는가, 아니면 새로운 기법이 등장하는가?

주요 결과

• 논문은 2-근사 카운팅 문제를 해결하는 모든 의사결정적 스트리밍 알고리즘에 대해 Ω(√(log n / log log n)) 비트의 하한선을 증명한다.
• 이 하한선은 거의 날것 같다는 것이 입증되었으며, 이러한 알고리즘의 상한선이 O(log n) 이며, 새로운 하한선이 알려진 최고의 랜덤화 알고리즘에 비해 로그 인자 범위 내에 있다는 점에서 그다지 떨어지지 않는다.
• 새로운 문제인 '시프트 찾기'가 도입되었고, O(√(cn)) 질의로 해결되었으며, 이는 하한선 증명의 핵심 기술적 구성 요소로 기능한다.
• 만약 시프트 찾기 문제가 다항로그 수준의 질의로 해결될 수 있다면, 의사결정적 카운팅에 대해 거의 날것 같은 Ω(log n / log log n) 하한선이 도출될 것이다.
• 증명은 근사 카운팅 문제를 시프트 찾기 문제로 감소시키는 새로운 기법에 기반하며, 확률적 제거와 증거 검증을 활용한다.
• 결과적으로 골드와서러 등이 (ITCS 2020) 제기한 열린 질문에 대해 부정적인 답변을 제공한다. 즉, 의사결정적 알고리즘이 모리스의 카운터의 공간 효율성을 따라올 수 없다는 것이다.