[논문 리뷰] Fast k Nearest Neighbor Search using GPU

Vincent Garcia, Éric Debreuve외 1명|arXiv (Cornell University)|2008. 04. 09.

Advanced Image and Video Retrieval Techniques참고 문헌 7인용 수 45

한 줄 요약

이 논문은 NVIDIA CUDA를 활용한 GPU 가속 k-최근접 이웃(KNN) 검색을 제안하며, 브루트 포스 알고리즘의 높은 병렬성 특성을 활용하여 CPU 기반 C 구현 대비 최대 120×, KD-트리 방법 대비 40×의 성능 향상을 달성한다. CUDA 구현은 데이터 차원에 대한 민감도가 거의 없어, 콘텐츠 기반 이미지 검색과 같은 응용 분야에서 고차원 KNN 계산을 효율적으로 수행할 수 있다.

ABSTRACT

The recent improvements of graphics processing units (GPU) offer to the computer vision community a powerful processing platform. Indeed, a lot of highly-parallelizable computer vision problems can be significantly accelerated using GPU architecture. Among these algorithms, the k nearest neighbor search (KNN) is a well-known problem linked with many applications such as classification, estimation of statistical properties, etc. The main drawback of this task lies in its computation burden, as it grows polynomially with the data size. In this paper, we show that the use of the NVIDIA CUDA API accelerates the search for the KNN up to a factor of 120.

연구 동기 및 목표

• 고차원 공간에서 k-최근접 이웃(KNN) 검색의 계산 병목 현상을 해결하기 위해 데이터 크기에 따라 다항식적으로 증가하는 계산 복잡도를 완화하는 것.
• 전통적인 CPU 기반 구현 방식으로는 달성하기 어려운 수준의 KNN 계산을 향상시키기 위해 GPU 아키텍처의 막대한 병렬성을 활용하는 것.
• CUDA를 통한 GPU 가속이 계산 시간을 크게 줄이고, 데이터 차원 증가에 따른 영향을 최소화할 수 있음을 입증하는 것.
• 콘텐츠 기반 이미지 검색과 같은 KNN 기반 응용 분야에서 고차원 기술자 표본을 실용적으로 사용할 수 있도록 성능 제약을 극복하는 것.

제안 방법

• 모든 쿼리-기준 점 간 거리 계산에서 데이터 수준 병렬성을 활용하기 위해 NVIDIA CUDA를 사용해 브루트 포스 KNN 알고리즘을 구현한다.
• CUDA 커널을 사용해 n개의 쿼리 점과 m개의 기준 점 간의 모든 쌍의 유클리드 거리를 동시에 계산한다.
• 각 쿼리 점에 대해 GPU 최적화된 정렬 커널을 사용해 k개의 최소 거리를 파악하기 위해 거리 값을 병렬 정렬한다.
• 메모리 액세스 패턴을 최적화하고 호스트-디바이스 간 데이터 전송을 최소화하여, 특히 고차원 데이터에서 지연을 줄인다.
• 다양한 차원과 데이터 크기에서 표준화된 벤치마크를 사용해 CPU 기반 C 구현 및 KD-트리 기반 접근 방식과의 성능을 비교한다.
• CUDA 프ofile 도구를 활용해 성능 저하 요인을 분석하며, 특히 저차원 케이스에서의 메모리 전송 오버헤드를 특정한다.

실험 결과

연구 질문

• RQ1 기존 CPU 기반 구현 방식에 비해 CUDA를 통한 GPU 가속이 k-최근접 이웃 검색의 계산 시간을 크게 줄일 수 있는가?
• RQ2 데이터 공간의 차원이 CPU와 GPU 아키텍처에서 KNN 검색 성능에 어떻게 영향을 미치는가?
• RQ3 최적화된 KD-트리 기반 방법에 비해 CUDA 기반 브루트 포스 KNN 구현이 속도와 확장성 측면에서 뛰어나게 되는가?
• RQ4 저차원 KNN 계산에서 메모리 전송 오버헤드가 GPU 성능에 얼마나 큰 제약을 미치는가?
• RQ5 GPU 가속 KNN 방법을 통해 콘텐츠 기반 이미지 검색과 같은 실세계 응용 분야에서 더 고차원의 특징 기술자 사용이 가능해지는가?

주요 결과

• CUDA 기반 브루트 포스 KNN 구현은 동일 하드웨어에서 MATLAB 기반 CPU 구현 대비 최대 120×, C 기반 CPU 코드 대비 100×의 성능 향상을 달성한다.
• 고차원 데이터(D=96)의 경우 CUDA 구현은 차원 증가에 관계없이 거의 일정한 계산 시간을 유지하며, 시간 대 차원 그래프에서 기울기가 단지 0.001에 불과하다.
• 반면, CPU 기반 브루트 포스 및 KD-트리 방법은 차원 증가에 따라 성능 저하가 심각하게 나타나며, N=4800일 때 각각 기울기가 0.56과 0.20이다.
• 메모리 전송 오버헤드가 존재하더라도, 데이터 차원이 8를 초과하면 CUDA 구현이 가장 빠른 성능을 보이며, 거리 계산의 우수한 병렬화 덕분이다.
• N=38400, D=96일 때 CUDA 방법은 KNN 검색을 43.74초 만에 완료했으며, CPU 기반 방법은 1시간, KD-트리 접근 방식은 20분이 소요되었다.
• KDT-C는 일반적으로 브루트 포스 CPU 방법보다 약 3배 빠르지만, 데이터 차원이 8를 초과하면 여전히 CUDA 구현에 뒤지게 된다.