[論文レビュー] An Algorithm for Reducing Approximate Nearest Neighbor to Approximate Near Neighbor with O(logn) Query Time

Hengzhao Ma, Jianzhong Li|arXiv (Cornell University)|Sep 26, 2018

Advanced Image and Video Retrieval Techniques参考文献 20被引用数 5

ひとこと要約

本稿では、近似最近傍（ε-NN）問題を近似近傍（c,r）-NN問題へ還元する新規手法を提示する。ボックススプリットツリーというデータ構造を活用することで、クエリ時間はO(log n)を達成する。各クエリが（c,r）-NNアルゴリズムをたったO(log n)回しか呼び出さないよう保証しており、階層的ボックス分割と精密なパrameterチューニングにより、従来の多項式対数時間（polylog(n)）の境界を著しく上回る性能を実現する。

ABSTRACT

This paper proposes a new algorithm for reducing Approximate Nearest Neighbor problem to Approximate Near Neighbor problem. The advantage of this algorithm is that it achieves O(log n) query time. As a reduction problem, the uery time complexity is the times of invoking the algorithm for Approximate Near Neighbor problem. All former algorithms for the same reduction need polylog(n) query time. A box split method proposed by Vaidya is used in our paper to achieve the O(log n) query time complexity.

研究の動機と目的

• 従来のε-NNから（c,r）-NNへの還元手法では、（c,r）-NNアルゴリズムを多項式対数時間（polylog(n)）分呼び出す必要があり、クエリ時間が非効率であった問題を解決すること。
• 階層的ボックスを介した効率的かつ対数時間オーダーでのクエリルーティングを可能にする前処理用データ構造を設計すること。
• ε-NNクエリ1件あたりの（c,r）-NNクエリ回数を最小限に抑えつつ、近似保証を維持すること。
• ボックススプリットによって生じる次元dに指数的依存性を軽減すること。ただし、これは依然として未解決の課題のままである。

提案手法

• 各内部ノードが点集合をボックスに分割するボックススプリットツリーというデータ構造を採用。ノードには少なくとも2つの子があり、最大n個の子を持つ。
• 空間をネストされたボックスとして階層的に分解し、ボックス内のすべての点がツリー構造において同じレベルにあることを保証する。
• 各ボックスに対して、隣接ボックスの集合（Nbr）と、近接情報を各レベル間で維持するための推定最小距離（Est）を維持する。
• クエリ手順では、ボックススプリットツリーの各レベルごとに（c,r）-NNアルゴリズムを1回だけ呼び出すように設計し、合計でO(log n)回の呼び出しに制限する。
• 各（c,r）-NN呼び出しの入力パrameterを、ボックスのサイズとクエリ点までの推定距離に基づいてチューニングする。
• Nbr集合の操作を効率的に行うために、最小ヒープデータ構造を用い、挿入・削除・最小距離の取得をO(log n)時間で実行する。

実験結果

リサーチクエスチョン

• RQ1 ε-NNクエリ1件あたりの（c,r）-NNクエリ回数を多項式対数時間（polylog(n)）未満に抑えることは可能か？
• RQ2 階層的ボックス分割方式を用いて、ε-NNを（c,r）-NNに還元することで、O(log n)のクエリ時間の達成は可能か？
• RQ3 前処理フェーズをどのように構築すれば、ボックス間で対数時間オーダーのクエリルーティングを可能にするか？
• RQ4 このような還元において、次元の依存性とクエリ効率のトレードオフはどのように評価できるか？

主な発見

• 提案手法は、ε-NNから（c,r）-NNへの還元において、O(log n)のクエリ時間計算量を達成しており、これは既存の還元手法の中で最適である。
• 前処理時間計算量はO((d/ε)^d · n log n)であり、次元と近似要因に依存して増加する。
• 空間計算量はO((d/ε)^d · n)であり、ボックスの数と1ボックスあたりの隣接集合のサイズに依存する。
• 各（c,r）-NNクエリは、ボックススプリットツリーの各レベルごとにたかだか1回しか呼び出されないため、合計でO(log n)回の呼び出しに制限される。
• ボックススプリットツリーの構築は、ノード数が最大2n個に抑えられ、前処理中の空間的・時間的バウンドを効果的に保証する。
• 従来の還元手法に比べ、（c,r）-NNの呼び出し回数を多項式対数時間からO(log n)に削減したことで、クエリ効率が著しく向上した。