[논문 리뷰] On The Hardness of Approximate and Exact (Bichromatic) Maximum Inner Product

Lijie Chen|arXiv (Cornell University)|2018. 02. 07.

Advanced Algebra and Logic인용 수 5

한 줄 요약

이 논문은 Bichromatic Maximum Inner Product (Max-IP) 문제를 근거로 한 조건부 하한을 밀도 있게 규명한다. SETH 하에, 하위 제곱 시간 알고리즘은 $(d/\log n)^{\Omega(1)}$-multiplicative 또는 $\Omega(d)$-additive 근사치를 초월할 수 없으며, $2^{O(\log^* n)}$ 차원에서 정수 위에서 정확한 Max-IP에 대해 $n^{2-o(1)}$-시간의 난이도를 증명한다. 이는 미해결의 핵심 문제를 해결한다.

ABSTRACT

In this paper we study the (Bichromatic) Maximum Inner Product Problem (Max-IP), in which we are given sets $A$ and $B$ of vectors, and the goal is to find $a \\in A$ and $b \\in B$ maximizing inner product $a \\cdot b$. Max-IP is very basic and serves as the base problem in the recent breakthrough of [Abboud et al., FOCS 2017] on hardness of approximation for polynomial-time problems. It is also used (implicitly) in the argument for hardness of exact $\\ell_2$-Furthest Pair (and other important problems in computational geometry) in poly-log-log dimensions in [Williams, SODA 2018]. We have three main results regarding this problem. First, we study the best multiplicative approximation ratio for Boolean Max-IP in sub-quadratic time. We show that, for Max-IP with two sets of $n$ vectors from $\\{0,1\\}^{d}$, there is an $n^{2 - \\Omega(1)}$ time $\\left( d/\\log n \ ight)^{\\Omega(1)}$-multiplicative-approximating algorithm, and we show this is conditionally optimal, as such a $\\left(d/\\log n\ ight)^{o(1)}$-approximating algorithm would refute SETH. Second, we achieve a similar characterization for the best additive approximation error to Boolean Max-IP. We show that, for Max-IP with two sets of $n$ vectors from $\\{0,1\\}^{d}$, there is an $n^{2 - \\Omega(1)}$ time $\\Omega(d)$-additive-approximating algorithm, and this is conditionally optimal, as such an $o(d)$-approximating algorithm would refute SETH [Rubinstein, STOC 2018]. Last, we revisit the hardness of solving Max-IP exactly for vectors with integer entries. We show that, under SETH, for Max-IP with sets of $n$ vectors from $\\mathbb{Z}^{d}$ for some $d = 2^{O(\\log^{*} n)}$, every exact algorithm requires $n^{2 - o(1)}$ time. With the reduction from [Williams, SODA 2018], it follows that $\\ell_2$-Furthest Pair and Bichromatic $\\ell_2$-Closest Pair in $2^{O(\\log^{*} n)}$ dimensions require $n^{2 - o(1)}$ time.

연구 동기 및 목표

• 부울 Max-IP 문제에 대해 하위 제곱 시간 내에서 달성 가능한 최고의 곱셈 근사 비율을 규명하는 것.
• 부울 Max-IP 문제에 대해 하위 제곱 시간 내에서 달성 가능한 최고의加성 근사 오차를 규명하는 것.
• 특히 $2^{O(\log^* n)}$ 차원에서 정수 벡터 위에서 정확한 Max-IP에 대한 정확한 난이도를 확립하는 것.
• Max-IP의 조건부 하한을 통신 복잡도 클래스, 특히 Set-Disjointness 문제에 대한 $\mathsf{MA}$ 및 $\mathsf{NP} \cdot \mathsf{UPP}$ 프로토콜과 연결하는 것.
• 중국인의 나머지 정리를 활용한 오р토곤럴 벡터 문제에서 정수 벡터로의 차원 축소 기법을 개선하는 것.

제안 방법

• 복잡도 $O(\sqrt{n \log n \log \log n})$를 갖는 새로운 $\mathsf{MA}$ 프로토콜을 활용하여 곱셈 근사 하한을 도출한다.
• 다항식 방법과 무작위 표본 추출을 활용하여 $n^{2-\Omega(1)}$-시간 알고리즘을 설계하여 $\left(d/\log n\right)^{\Omega(1)}$-multiplicative 및 $\Omega(d)$-additive 근사치를 달성한다.
• 중국인의 나머지 정리를 사용한 새로운 차원 자가축소 기법을 도입하여 $\mathsf{OV}$를 $\{0,1\}^d$에서 $\mathbb{Z}^\ell$로 변환하며, $\ell = 2^{O(\log^* d)}$를 달성한다.
• 내적 값의 임계값을 제어하는 $n^\varepsilon$개의 $\mathsf{Max\text{-}IP}_{n,d}$ 인스턴스로 $\mathsf{OV}_{n,c\log n}$을 감소시켜 난이도를 확립한다.
• 정수 위에서 정확한 Max-IP의 난이도와 Set-Disjointness 문제에 대한 $\mathsf{NP} \cdot \mathsf{UPP}$ 통신 프로토콜 간의 연결 고리를 설정하며, 근사화에 대한 기존 연결과 유사하게 한다.
• $\mathsf{MA}$ 프로토콜의 구조를 활용하여 복잡도 $O(\sqrt{n \log n \log \log n})$인 $\mathsf{MA}$ 통신 프로토콜을 구성하며, 이는 이전의 경계를 향상시킨다.

실험 결과

연구 질문

• RQ1 하위 제곱 시간 알고리즘이 부울 Max-IP에 대해 $\left(d/\log n\right)^{o(1)}$-multiplicative 근사치를 달성할 수 있는가?
• RQ2 부울 Max-IP에 대해 $o(d)$-additive 근사치를 달성하는 하위 제곱 시간 알고리즘이 존재하는가?
• RQ3 차원 $d = 2^{O(\log^* n)}$일 때, $\mathbb{Z}^d$ 위에서 정확한 Max-IP를 풀기 위한 정확한 시간 복잡도는 무엇인가?
• RQ4 Max-IP의 난이도와 통신 복잡도 간의 연결 고리를 $\mathsf{MA}$를 초월하여 $\mathsf{NP} \cdot \mathsf{UPP}$ 프로토콜까지 확장할 수 있는가?
• RQ5 중국인의 나머지 정리와 같은 대수 기법을 사용하여 $\mathsf{OV}$에서 정수 Max-IP로의 최적 차원 축소는 무엇인가?

주요 결과

• 부울 Max-IP 문제에 대해 $\left(d/\log n\right)^{\Omega(1)}$-multiplicative 근사치를 달성하는 $n^{2-\Omega(1)}$-시간 알고리즘이 존재하며, 이는 SETH 하에 조건부 최적이다.
• 부울 Max-IP 문제에 대해 $\Omega(d)$-additive 근사치를 달성하는 $n^{2-\Omega(1)}$-시간 알고리즘이 존재하며, 이 역시 SETH 하에 조건부 최적이다.
• SETH 하에, $d = 2^{O(\log^* n)}$인 $\mathbb{Z}^d$ 위에서 정확한 Max-IP를 해결하는 모든 알고리즘은 $n^{2-o(1)}$ 시간이 필요하다.
• $2^{O(\log^* n)}$ 차원에서의 $\ell_2$-Furthest Pair 및 이분 $\ell_2$-Closest Pair 문제는 SETH 하에 $n^{2-o(1)}$ 시간이 필요하다.
• Set-Disjointness 문제에 대한 새로운 $\mathsf{MA}$ 프로토콜이 복잡도 $O(\sqrt{n \log n \log \log n})$를 달성하며, 이는 이전의 $O(\sqrt{n} \log n)$ 경계를 향상시킨다.
• 논문은 정확한 Max-IP 난이도와 Set-Disjointness 문제에 대한 $\mathsf{NP} \cdot \mathsf{UPP}$ 통신 프로토콜 간의 새로운 연결 고리를 확립하였으며, 근사화에 대한 기존 연결과 유사하다.