[論文レビュー] Fast k Nearest Neighbor Search using GPU

Vincent Garcia, Éric Debreuve+1 more|arXiv (Cornell University)|Apr 9, 2008

Advanced Image and Video Retrieval Techniques参考文献 7被引用数 45

ひとこと要約

この論文では、NVIDIA CUDAを用いたGPUアクセラレーションを活用したk近傍（KNN）検索を提示している。ブルートフォースアルゴリズムの並列性の高さを活かし、CPUベースのC実装と比較して最大120倍、KDツリー法と比較して40倍の高速化を達成した。CUDA実装は次元数にほとんど依存しないため、コンテンツベース画像検索などの応用において、高次元KNN計算を効率的に行える。

ABSTRACT

The recent improvements of graphics processing units (GPU) offer to the computer vision community a powerful processing platform. Indeed, a lot of highly-parallelizable computer vision problems can be significantly accelerated using GPU architecture. Among these algorithms, the k nearest neighbor search (KNN) is a well-known problem linked with many applications such as classification, estimation of statistical properties, etc. The main drawback of this task lies in its computation burden, as it grows polynomially with the data size. In this paper, we show that the use of the NVIDIA CUDA API accelerates the search for the KNN up to a factor of 120.

研究の動機と目的

• 高次元空間におけるk近傍（KNN）検索の計算ボトル neck を解消すること。これは、データサイズに多項式的に依存する。
• GPUアーキテクチャの巨大な並列性を活用し、従来のCPUベースの実装では達成できないレベルのKNN計算を高速化すること。
• CUDAによるGPUアクセラレーションが、計算時間を顕著に短縮するとともに、次元数の増加による影響を最小限に抑えることができることを示すこと。
• コンテンツベース画像検索のようなKNNベースの応用において、高次元記述子の実用的利用を、性能制限を克服することで可能にすること。

提案手法

• すべてのクエリポイントとリファレンスポイント間の距離計算におけるデータ並列性を活用するため、NVIDIA CUDAを用いてブルートフォースKNNアルゴリズムを実装する。
• CUDAカーネルを用いて、n個のクエリポイントとm個のリファレンスポイント間のすべてのペアワイズユークリッド距離を並列に計算する。
• 各クエリポイントごとに、GPU最適化されたソーティングカーネルを用いて距離を並列にソートし、k番目に小さい距離を特定する。
• メモリアクセスパターンを最適化し、特に高次元データにおいて遅延を低減するため、ホストとデバイス間のデータ転送を最小限に抑える。
• さまざまな次元数とデータサイズにおいて、標準化されたベンチマークを用いてCPUベースのC実装およびKDツリーに基づくアプローチと性能を比較する。
• CUDAプロファイリングツールを用いて性能ボトル neck を分析し、特に低次元ケースにおけるメモリ転送オーバーヘッドを特定する。

実験結果

リサーチクエスチョン

• RQ1 CUDAによるGPUアクセラレーションは、従来のCPUベースの実装と比較して、k近傍検索の計算時間を顕著に短縮できるか？
• RQ2 データ空間の次元数は、CPUアーキテクチャとGPUアーキテクチャの両方におけるKNN検索の性能にどのように影響するか？
• RQ3 最適化されたKDツリー法と比較して、CUDAベースのブルートフォースKNN実装は、速度とスケーラビリティの面で優れているか？
• RQ4 低次元KNN計算において、GPU上でのメモリ転送オーバーヘッドは、性能にどの程度制限を及えるか？
• RQ5 GPUアクセラレーションを施したKNN手法は、コンテンツベース画像検索のような実世界の応用において、より高次元の特徴記述子の使用を可能にするか？

主な発見

• CUDAベースのブルートフォースKNN実装は、同じハードウェア上でMATLABベースのCPU実装と比較して最大120倍、CベースのCPUコードと比較して100倍の高速化を達成した。
• 高次元データ（例：D=96）では、CUDA実装が次元数にほとんど依存せず、時間 vs. 次元プロットにおいて勾配がたった0.001にとどまる。
• これに対して、CPUベースのブルートフォース法およびKDツリー法は、次元数の増加に伴い顕著な性能低下を示し、N=4800における勾配はブルートフォース法で0.56、KDツリー法で0.20であった。
• メモリ転送オーバーヘッドがあるにもかかわらず、データ次元数が8を超えると、CUDA実装が最も高速な方法となる。これは距離計算の並列化の優位性のおかげである。
• N=38400およびD=96の場合、CUDA法はKNN検索を43.74秒で完了したが、CPUベースの方法では1時間、KDツリー法では20分を要した。
• KDT-C実装は一般的にブルートフォースCPU法の3倍速であるが、データ次元数が8を超えると、CUDA実装に劣ることとなった。