[论文解读] Lower Bounds on Near Neighbor Search via Metric Expansion

Rina Panigrahy‎, Kunal Talwar+1 more|arXiv (Cornell University)|May 3, 2010

Advanced Image and Video Retrieval Techniques参考文献 11被引用 29

一句话总结

本文建立了度量空间的扩张性质与近邻搜索（NNS）的单元探测复杂度之间的紧密联系，表明度量空间邻近图中的顶点和边扩张直接决定了确定性和随机化数据结构的下界。本文引入了鲁棒扩张作为统一框架，推导出强时间-空间权衡，并通过基于扩张参数的几何与概率论证，证明了动态低冲突数据结构的紧致界。

ABSTRACT

In this paper we show how the complexity of performing nearest neighbor (NNS) search on a metric space is related to the expansion of the metric space. Given a metric space we look at the graph obtained by connecting every pair of points within a certain distance $r$ . We then look at various notions of expansion in this graph relating them to the cell probe complexity of NNS for randomized and deterministic, exact and approximate algorithms. For example if the graph has node expansion $Φ$ then we show that any deterministic $t$-probe data structure for $n$ points must use space $S$ where $(St/n)^t > Φ$. We show similar results for randomized algorithms as well. These relationships can be used to derive most of the known lower bounds in the well known metric spaces such as $l_1$, $l_2$, $l_\infty$ by simply computing their expansion. In the process, we strengthen and generalize our previous results (FOCS 2008). Additionally, we unify the approach in that work and the communication complexity based approach. Our work reduces the problem of proving cell probe lower bounds of near neighbor search to computing the appropriate expansion parameter. In our results, as in all previous results, the dependence on $t$ is weak; that is, the bound drops exponentially in $t$. We show a much stronger (tight) time-space tradeoff for the class of dynamic low contention data structures. These are data structures that supports updates in the data set and that do not look up any single cell too often.

研究动机与目标

• 统一并推广不同度量空间下近邻搜索的现有单元探测下界。
• 建立度量空间邻近图的扩张性质与NNS数据结构复杂度之间的直接关联。
• 引入鲁棒扩张作为新的图参数，介于顶点扩张与边扩张之间，足以推导出NNS下界。
• 通过基于扩张的论证，证明动态低冲突数据结构的紧致时间-空间权衡。
• 将证明NNS下界的问题简化为计算扩张参数，从而简化并强化了先前结果。

提出的方法

• 将图形近邻搜索（GNS）定义为近似近邻搜索（ANNS）的推广，其中问题在数据点与查询之间的二分图上建模。
• 通过群作用和凯莱图构造随机化数据结构，以模拟邻近查询，利用均匀抽样和自同构确保单元负载均衡。
• 使用顶点扩张推导确定性t-探测数据结构的下界，表明对于节点扩张Φ，有(S t / n)^t > Φ。
• 使用边扩张和鲁棒扩张推导随机化算法的下界，通过几何与概率破碎论证强化先前结果。
• 通过建模冲突与更新行为分析动态数据结构，证明对于低冲突结构，更新时间受Φ_r(τ, γ²/(4t²)) / t⁴限制。
• 应用丰富性技术与直接求和定理，将扩张与通信复杂度联系起来，统一了两大类下界论证范式。

实验结果

研究问题

• RQ1 度量空间邻近图的扩张性质如何影响确定性近邻搜索的单元探测复杂度？
• RQ2 边扩张与鲁棒扩张参数是否可用于推导随机化近邻搜索算法的紧致下界？
• RQ3 通信复杂度与直接数据结构下界方法在多大程度上可被统一于单一框架之下？
• RQ4 在度量扩张的术语下，动态低冲突数据结构的时间-空间紧致权衡是什么？
• RQ5 扩张参数是否可用于推导并推广经典度量（如ℓ₁、ℓ₂和ℓ∞）的已知下界？

主要发现

• 对于确定性t-探测数据结构，任意空间S必须满足(S t / n)^t > Φ，其中Φ为邻近图的节点扩张。
• 对于随机化算法，边扩张已足够推导下界，而鲁棒扩张提供了一个统一的参数，介于顶点扩张与边扩张之间。
• 该框架通过计算其各自扩张参数，恢复并强化了ℓ₁、ℓ₂和ℓ∞空间中的已知下界。
• 对于动态低冲突数据结构，更新时间至少为Ω(Φ_r(τ, O(1/t²)) / t⁴)，建立了依赖于扩张与冲突的紧致权衡。
• 在高度对称且输入为随机的度量空间中，鲁棒扩张在常数t的单元探测模型下也给出了匹配的上界，表明下界具有紧致性。