[논문 리뷰] Streaming Symmetric Norms via Measure Concentration

Jarosław Błasiok, Vladimir Braverman외 3명|arXiv (Cornell University)|2015. 11. 03.

Complexity and Algorithms in Graphs참고 문헌 37인용 수 6

한 줄 요약

이 논문은 측도 농도를 이용하여 대칭 노름의 스트리밍 공간 복잡도를 날카롭게 특성화한다. (1±ϵ) 범위 내에서 어떤 대칭 노름을 근사화하는 데 필요한 공간 복잡도는 노름의 농도 모듈러스, 즉 l2 단위 구면 상에서의 최대값과 중앙값의 비율로 정의된 값에 의해 엄밀히 결정됨을 보여준다. 주요 결과는 공간 복잡도가 Θ(mc(l)² log n)로 척도가 붙은 거의 최적의 (1±ϵ)-근사 알고리즘을 제시하며, 하위선형 알고리즘에서의 유니버설 스케치 및 스케처블 거리에 대한 열린 문제를 해결한다.

ABSTRACT

We characterize the streaming space complexity of every symmetric norm $l$ (a norm on $\mathbb{R}^n$ invariant under sign-flips and coordinate-permutations), by relating this space complexity to the measure-concentration characteristics of $l$. Specifically, we provide nearly matching upper and lower bounds on the space complexity of calculating a $(1\pmε)$-approximation to the norm of the stream, for every $02$. In addition, we apply our general results to easily derive bounds for several norms that were not studied before in the streaming model, including the top-$k$ norm and the $k$-support norm, which was recently employed for machine learning tasks. Overall, these results make progress on two outstanding problems in the area of sublinear algorithms (Problems 5 and 30 in~\url{http://sublinear.info}).

연구 동기 및 목표

• 하위선형 알고리즘에서의 유니버설 스케칭 및 스케처블 거리에 대한 열린 문제를 해결하기 위해.
• 근사적으로 어떤 대칭 노름도 거의 최적의 공간 복잡도로 스트리밍 모델에서 근사화할 수 있는 일반적 프레임워크를 제공하기 위해.
• 특히 l2 단위 구면 상에서의 중앙값과 최대값을 포함한 측도 농도 성질을 이용하여 대칭 노름의 스트리밍 공간 복잡도를 특성화하기 위해.
• 이전에 스트리밍 환경에서 다루어지지 않은 새로운 대칭 노름, 예를 들어 토폽(k-support) 노름 등에 대한 기존 lp 노름 결과를 확장하기 위해.

제안 방법

• mc(l) = bl / Ml로 농도 모듈러스 mc(l)를 정의한다. 여기서 bl은 노름 l이 l2 단위 구면에서의 최대값이고, Ml은 그 중앙값이다.
• 특히 구면 상의 측도 농도 현상(측도 농도)을 이용하여 스트리밍 알고리즘의 공간 복잡도를 근사한다.
• 공간 복잡도 s인 경우, 크기가 s · poly(log n / ϵ)인 유니버설 스케치를 구성하여 모든 대칭 노름에 대해 (1±ϵ)-근사화를 지원한다.
• 노름의 쌍대성과 대칭성 성질, 특히 Q-노름과 그 쌍대를 활용하여 날카로운 경계를 도출한다.
• 고차원 기하학 기법, 예를 들어 Dvoretzky의 정리와 큰 편차 경계를 적용하여 기하학적 성질과 알고리즘 복잡도를 연결한다.
• 가역 선형 변환을 통한 감소와 변환 기법을 활용하여 대칭 노름을 초월한 결과를 확장하며, 이러한 변환에 대해 공간 복잡도의 불변성을 보여준다.

실험 결과

연구 질문

• RQ1 모든 대칭 노름의 스트리밍 공간 복잡도는 무엇이며, 노름의 기하학적 성질로 특성화될 수 있는가?
• RQ2 모든 대칭 노름에 대해 (1±ϵ)-근사화를 거의 최적의 공간 복잡도로 지원하는 단일 유니버설 스케치를 구성할 수 있는가?
• RQ3 공간 복잡도는 근사 비율 D ≥1에 따라 어떻게 변화하며, D² 의존성은 최적인가?
• RQ4 왜 p > 2 인 lp 노름은 p ≤2 인 경우보다 훨씬 더 많은 공간이 필요한가? 이는 통일적으로 설명될 수 있는가?
• RQ5 농도 모듈러스 mc(l)는 대칭 노름을 초월해 스트리밍 노름의 일반적인 복잡도 매개변수로 사용될 수 있는가?

주요 결과

• 모든 대칭 노름 l에 대해 (1±ϵ)-근사화의 스트리밍 공간 복잡도는 poly(ϵ⁻¹ log n) 요소를 제외하고 Θ(mc(l)² log n)이다.
• 근사 비율 D ≥1일 경우, 공간 복잡도는 D⁻²에 비례하며, 이 의존성은 최적이다.
• 농도 모듈러스 mc(l) = bl / Ml 가 복잡도를 지배하며, 여기서 Ml은 노름 l이 l2 단위 구면에서의 중앙값이다.
• 논문은 열린 문제 30(유니버설 스케칭)을 해결하여, 대칭 노름이 공간 복잡도 s에 대해 크기가 s · poly(log n / ϵ)인 유니버설 스케치를 갖는다는 것을 보였다.
• 이전에 스트리밍 환경에서 다뤄지지 않은 k-support 노름과 top-k 노름도 mc(l)에 의해 공간 복잡도가 특성화되며, 이는 효율적인 근사화를 가능하게 한다.
• 결과는 대각 행렬 제약을 통한 유니터리 불변 행렬 노름으로 확장되며, 또한 가역 선형 변환 lA = l(A·)을 통한 변환된 노름으로도 유지되며, 공간 복잡도는 그대로 유지된다.