[논문 리뷰] Optimal compression of approximate Euclidean distances

Noga Alon, Bo’az Klartag|arXiv (Cornell University)|2016. 10. 02.

Computational Geometry and Mesh Generation참고 문헌 4인용 수 1

한 줄 요약

이 논문은 R^k 내의 n개 점 간의 근사 유클리드 거리에 대해 애드디티브 오차 ε를 허용할 때 최적의 알고리즘을 제안하며, 점당 O(f(n,k,ε)/n) 비트의 스킴 크기를 달성한다. 이는 선형 시간 내에서 복원 가능한 방법을 제공하고, ε ≥ 1/n^{0.49}일 때 스킴 크기의 날카운 경계를 설정하며, 차원 감소에 대한 새로운 한계를 증명하고, 애드디티브 오차가 있는 존슨-린든스트라우스 임베딩을 위한 랜덤화된 다항식 시간 알고리즘을 개발한다.

ABSTRACT

Let $X$ be a set of $n$ points of norm at most $1$ in the Euclidean space $R^k$, and suppose $\varepsilon>0$. An $\varepsilon$-distance sketch for $X$ is a data structure that, given any two points of $X$ enables one to recover the square of the (Euclidean) distance between them up to an {\em additive} error of $\varepsilon$. Let $f(n,k,\varepsilon)$ denote the minimum possible number of bits of such a sketch. Here we determine $f(n,k,\varepsilon)$ up to a constant factor for all $n \geq k \geq 1$ and all $\varepsilon \geq \frac{1}{n^{0.49}}$. Our proof is algorithmic, and provides an efficient algorithm for computing a sketch of size $O(f(n,k,\varepsilon)/n)$ for each point, so that the square of the distance between any two points can be computed from their sketches up to an additive error of $\varepsilon$ in time linear in the length of the sketches. We also discuss the case of smaller $\varepsilon>2/\sqrt n$ and obtain some new results about dimension reduction in this range. In particular, we show that for any such $\varepsilon$ and any $k \leq t=\frac{\log (2+\varepsilon^2 n)}{\varepsilon^2}$ there are configurations of $n$ points in $R^k$ that cannot be embedded in $R^{\ell}$ for $\ell < ck$ with $c$ a small absolute positive constant, without distorting some inner products (and distances) by more than $\varepsilon$. On the positive side, we provide a randomized polynomial time algorithm for a bipartite variant of the Johnson-Lindenstrauss lemma in which scalar products are approximated up to an additive error of at most $\varepsilon$. This variant allows a reduction of the dimension down to $O(\frac{\log (2+\varepsilon^2 n)}{\varepsilon^2})$, where $n$ is the number of points.

연구 동기 및 목표

• R^k 내의 n개 점 간의 제곱 유클리드 거리를 애드디티브 오차 ε로 압축하기 위해 필요한 최소 스킴 크기 f(n,k,ε)를 결정하는 것.
• 스킴 크기가 점당 O(f(n,k,ε)/n)인 효율적인 알고리즘을 설계하여, 제곱 거리를 선형 시간 내에 복원할 수 있도록 하는 것.
• ε > 2/√n일 경우, 특히 내적과 거리의 왜곡에 관해 차원 감소의 기본 한계를 탐색하는 것.
• 애드디티브 오차 ε를 갖는 이중형 존슨-린든스트라우스 레미마의 랜덤화된 다항식 시간 알고리즘을 개발하는 것.
• ε ≥ 1/n^{0.49}일 때 스킴 크기의 날카운 경계를 확립하고, ε가 더 작지만 여전히 비트리벌한 경우의 영역을 분석하는 것.

제안 방법

• 애드디티브 오차 경계에 맞추어 조정된 랜덤 프로젝션과 차원 감소 기법을 기반으로 한 새로운 ε-거리 스킴 구축 방법을 사용한다.
• 이중형 설정에서 스칼라 곱을 애드디티브 오차 ε 이내로 유지하는 랜덤화된 임베딩 기법을 적용하여, O(log(2+ε²n)/ε²) 차원으로의 차원 감소를 가능하게 한다.
• 각 점에 대해 O(f(n,k,ε)/n) 비트를 사용하는 스킴을 계산하며, 이는 어떤 두 점 간의 제곱 거리를 스킴 길이에 비례하는 선형 시간 내에 복원할 수 있도록 한다.
• 집중 부등식과 랜덤 프로젝션 하에서 내적 보존 성질을 활용하여 애드디티브 왜곡을 경계한다.
• 낮은 차원 임베딩에서 심각한 왜곡 없이 저항하는 어려운 인스턴스를 구성함으로써 스킴 크기의 하한을 확립한다.
• 알고리즘적 스킴과 정보 이론적 하한을 결합하여, 상수 요소를 제외한 f(n,k,ε)의 날카운 특성화를 달성한다.

실험 결과

연구 질문

• RQ1 ε ≥ 1/n^{0.49}일 때, R^k 내의 n개 점 간 제곱 유클리드 거리를 애드디티브 오차 ε로 압축하기 위해 필요한 최소 비트 수는 얼마인가요?
• RQ2 스킴 크기가 점당 O(f(n,k,ε)/n)인 효율적인 알고리즘이 존재하여, 애드디티브 오차 ε 이내로 거리를 선형 시간 내에 복원할 수 있을까요?
• RQ3 ε > 2/√n일 경우, 특히 내적과 거리의 왜곡에 관해 차원 감소의 기본 한계는 무엇인가요?
• RQ4 랜덤화된 다항식 시간 알고리즘이 이중형 존슨-린든스트라우스 설정에서 스칼라 곱을 애드디티브 오차로 유지할 수 있을까요?
• RQ5 ε와 k의 어떤 값들에 대해, 절대 상수 c가 작은 경우 ℓ < ck인 R^ℓ로 n개의 점을 R^k에서 임베딩할 수 없으며, 거리나 내적의 왜곡이 ε를 초과하게 되는가?

주요 결과

• 모든 n ≥ k ≥ 1 및 ε ≥ 1/n^{0.49}에 대해 f(n,k,ε)를 상수 요소를 제외하고 정확히 파악하며, 스킴 크기의 날카운 경계를 설정한다.
• 스킴 크기가 점당 O(f(n,k,ε)/n)인 효율적인 알고리즘이 존재하여, 애드디티브 오차 ε 이내로 제곱 거리를 선형 시간 내에 복원할 수 있다.
• ε > 2/√n일 경우, 일부 R^k 내의 n개 점 구성은 ℓ < ck인 R^ℓ로 임베딩할 수 없으며, 내적 또는 거리의 왜곡이 ε를 초과하게 된다.
• 이중형 존슨-린든스트라우스 레미마의 랜덤화된 다항식 시간 알고리즘을 제공하며, 애드디티브 오차 ε을 갖는 O(log(2+ε²n)/ε²) 차원으로의 차원 감소를 달성한다.
• 연구 결과는 애드디티브 오차 영역에서의 차원 감소가 본질적으로 제한되어 있음을 드러낸다: ε ≥ 1/n^{0.49}일 때 스킴 크기는 날카운 경계로 특성화되며, 심각한 왜곡 없이 부분선형 차원 감소는 불가능하다.
• 스킴 크기가 Θ(n · f(n,k,ε)/n) = Θ(f(n,k,ε))임을 확인하여, 제안된 구조의 최적성을 확인한다.