[論文レビュー] Lower Bounds on Near Neighbor Search via Metric Expansion

Rina Panigrahy‎, Kunal Talwar+1 more|arXiv (Cornell University)|May 3, 2010

Advanced Image and Video Retrieval Techniques参考文献 11被引用数 29

ひとこと要約

本稿は、距離空間の拡張性と近傍検索（NNS）のセルプローブ複雑度の間のきつい関係を確立し、距離空間の近接グラフにおける頂点および辺の拡張性が、決定的および確率的データ構造の下界を直接決定することを示している。本稿では、統一的な枠組みを提供するための強固な拡張性を導入し、強力な時間-空間トレードオフを導出し、幾何学的および確率的議論に基づく拡張パラメータを用いて、動的低競合データ構造のタイトな境界を証明している。

ABSTRACT

In this paper we show how the complexity of performing nearest neighbor (NNS) search on a metric space is related to the expansion of the metric space. Given a metric space we look at the graph obtained by connecting every pair of points within a certain distance $r$ . We then look at various notions of expansion in this graph relating them to the cell probe complexity of NNS for randomized and deterministic, exact and approximate algorithms. For example if the graph has node expansion $Φ$ then we show that any deterministic $t$-probe data structure for $n$ points must use space $S$ where $(St/n)^t > Φ$. We show similar results for randomized algorithms as well. These relationships can be used to derive most of the known lower bounds in the well known metric spaces such as $l_1$, $l_2$, $l_\infty$ by simply computing their expansion. In the process, we strengthen and generalize our previous results (FOCS 2008). Additionally, we unify the approach in that work and the communication complexity based approach. Our work reduces the problem of proving cell probe lower bounds of near neighbor search to computing the appropriate expansion parameter. In our results, as in all previous results, the dependence on $t$ is weak; that is, the bound drops exponentially in $t$. We show a much stronger (tight) time-space tradeoff for the class of dynamic low contention data structures. These are data structures that supports updates in the data set and that do not look up any single cell too often.

研究の動機と目的

• 異なる距離空間にわたる既存のセルプローブ下界を統一・一般化すること。
• 距離空間の近接グラフの拡張性が、NNSデータ構造の複雑度を直接決定することを確立すること。
• 頂点拡張性と辺拡張性の間を滑らかに補間できる新しいグラフパラメータとしての強固な拡張性を導入し、NNS下界を導出可能であることを示すこと。
• 拡張性に基づく議論を用いて、動的低競合データ構造のタイトな時間-空間トレードオフを証明すること。
• NNS下界を証明する問題を、拡張パラメータの計算に還元することで、従来の結果を単純化・強化すること。

提案手法

• 近似近傍検索（ANNS）の一般化として、データポイントとクエリの間の二部グラフ上で定式化される「グラフィカル近傍検索（GNS）」を定義する。
• 群作用とカイリー・グラフを用いて、近接クエリをシミュレートする確率的データ構造を構築し、均一なサンプリングと自己同型を活用してセルの負荷を均衡化する。
• 頂点拡張性を用いて、決定的tプローブデータ構造の下界を導出し、ノード拡張性Φに対して (St/n)^t > Φ が成り立つことを示す。
• 辺拡張性と強固な拡張性を用いて、確率的アルゴリズムの下界を導出し、幾何的および確率的シャッタリング議論を用いて、先行研究を強化する。
• 競合と更新動作をモデル化することで動的データ構造を分析し、低競合構造に対して更新時間が Φ_r(τ, γ²/(4t²)) / t⁴ で有界であることを証明する。
• 豊かさ技法と直接和定理を適用し、拡張性と通信複雑度を結びつけ、2つの主要な下界パラダイムを統一する。

実験結果

リサーチクエスチョン

• RQ1 距離空間の近接グラフの拡張性は、決定的近傍検索のセルプローブ複雑度にどのように関係するか？
• RQ2 辺拡張性と強固な拡張性パラメータを用いて、確率的近傍検索アルゴリズムのタイトな下界を導出できるか？
• RQ3 通信複雑度と直接的なデータ構造下界アプローチは、どの程度単一の枠組みで統一できるか？
• RQ4 動的低競合データ構造のタイトな時間-空間トレードオフは、距離の拡張性に関してどのように表現されるか？
• RQ5 拡張パラメータを用いて、ℓ₁、ℓ₂、ℓ∞ といった古典的距離空間の既知の下界を導出し、一般化できるか？

主な発見

• 決定的tプローブデータ構造に関して、任意の空間Sは (St/n)^t > Φ を満たさなければならない。ここでΦは近接グラフのノード拡張性である。
• 確率的アルゴリズムに関しては、辺拡張性で十分に下界を導出可能であり、強固な拡張性は頂点拡張性と辺拡張性の間を滑らかに補間する統一的パラメータを提供する。
• 本フレームワークは、ℓ₁、ℓ₂、ℓ∞ 空間の既知の下界を再現し、それらの拡張パラメータを計算することで強化する。
• 動的低競合データ構造に関しては、更新時間は Ω(Φ_r(τ, O(1/t²)) / t⁴) 以上であることが示され、拡張性と競合に依存するタイトなトレードオフを確立する。
• ランダム入力を持つ高対称的距離空間において、強固な拡張性は定数tにおいてセルプローブモデルで一致する上界をもたらし、下界のタイトさを示している。