[논문 리뷰] Improving Bilayer Product Quantization for Billion-Scale Approximate Nearest Neighbors in High Dimensions

Artem Babenko, Victor Lempitsky|arXiv (Cornell University)|2014. 04. 07.

Advanced Image and Video Retrieval Techniques참고 문헌 14인용 수 18

한 줄 요약

이 논문은 빌리언 스케일 고차원 데이터셋에서 근사 최근접 이웃 검색을 가속화하고 향상하기 위해 두 가지 새로운 시스템—빠른 이중층 제품 양자화(FBPQ) 및 계층적 이중층 제품 양자화(HBPQ)—를 제안한다. FBPQ는 거리 계산 복잡도를 O(D)에서 O(M)로 감소시켜 다중 D-ADC 대비 최대 15배의 속도 향상을 이룬다. 이는 동일한 재현율을 유지한 채로 이루어진다. HBPQ는 각 인덱스 셀마다 국소 제품 양자화 코드북을 사용하여, SIFT1B 데이터셋에서 Recall@1을 10% 향상시키고 Recall@10을 17% 향상시키며, 메모리 사용량은 오직 15% 증가에 그친다.

ABSTRACT

The top-performing systems for billion-scale high-dimensional approximate nearest neighbor (ANN) search are all based on two-layer architectures that include an indexing structure and a compressed datapoints layer. An indexing structure is crucial as it allows to avoid exhaustive search, while the lossy data compression is needed to fit the dataset into RAM. Several of the most successful systems use product quantization (PQ) for both the indexing and the dataset compression layers. These systems are however limited in the way they exploit the interaction of product quantization processes that happen at different stages of these systems. Here we introduce and evaluate two approximate nearest neighbor search systems that both exploit the synergy of product quantization processes in a more efficient way. The first system, called Fast Bilayer Product Quantization (FBPQ), speeds up the runtime of the baseline system (Multi-D-ADC) by several times, while achieving the same accuracy. The second system, Hierarchical Bilayer Product Quantization (HBPQ) provides a significantly better recall for the same runtime at a cost of small memory footprint increase. For the BIGANN dataset of billion SIFT descriptors, the 10% increase in Recall@1 and the 17% increase in Recall@10 is observed.

연구 동기 및 목표

• 기존의 이중층 제품 양자화 시스템이 반복적인 거리 계산을 수행하고 최적화되지 않은 전역 코드북을 사용하는 데 기인한 비효율성을 해결하기 위해.
• 정확도를 훼손하지 않고 고차원 근사 최근접 이웃 검색에서 거리 평가의 계산 비용을 줄이기 위해.
• 이동 분포에 더 잘 적응하는 국소적, 셀 기반 제품 양자화 코드북을 통해 검색 재현율을 향상시키기 위해.
• SIFT1B와 같은 빌리언 스케일 데이터셋에서 속도와 정확도 면에서 최신 기술 수준의 성능을 달성하기 위해.
• 국소 코드북은 메모리 비용이 더 높지만, 계층적 제품 양자화와 결합될 경우 실용적이고 유익하다는 것을 입증하기 위해.

제안 방법

• FBPQ는 제품 양자화와 비대칭 거리 계산(ADC)을 활용하여 거리 평가 복잡도를 O(D)에서 O(M)로 감소시킨다. 여기서 M은 PQ 구성 요소의 수이다.
• 전체 벡터를 복원하는 대신, FBPQ는 압축된 표현에서 직접 빠르고 근사적인 거리 공식을 사용해 거리를 계산한다.
• HBPQ는 이동 인코딩을 위해 전역 코드북을 셀 기반 국소 코드북으로 대체하여, 각 인덱스 셀에서 더 나은 압축 품질을 달성한다.
• 국소 코드북은 동일한 제품 양자화 프레임워크를 사용하지만, 각 셀의 고유한 이동 분포에 대해 별도로 훈련된다.
• 시스템은 효율적인 셀 검색을 위해 역인verted 다중색인 구조를 사용하고, 후보자 목록에서 재정렬을 적용한다.
• 메모리 오버헤드는 제품 양자화의 계층적 구조를 활용해 증가하는 셀 수에 따라 선형 증가를 방지함으로써 낮게 유지된다.

실험 결과

연구 질문

• RQ1 이중층 제품 양자화에서 거리 계산 복잡도를 O(D)에서 O(M)로 감소시킬 수 있을까? 정확도 손실 없이 가능할까?
• RQ2 각 인덱스 셀마다 국소 제품 양자화 코드북을 사용할 경우, 전역 코드북 대비 검색 재현율이 향상되는가?
• RQ3 국소 코드북을 고차원 ANN 검색에 사용할 경우, 메모리 오버헤드와 재현율 향상 사이의 트레이드오프는 어떠한가?
• RQ4 두 수준의 제품 양자화 간의 상호보완적 특성을 더 효과적으로 활용해 검색을 가속화할 수 있는가?
• RQ5 국소 코드북의 성능 향상가 메모리 비용 증가를 감안할 때, 실세계 빌리언 스케일 응용에서 그 비용을 감당할 수 있을까?

주요 결과

• FBPQ는 SIFT1B 데이터셋에서 다중 D-ADC 대비 최대 15배의 속도 향상을 이룩했으며, 동일한 재현율을 유지한다.
• HBPQ는 SIFT1B 데이터셋에서 다중 D-ADC 대비 Recall@1을 10% 향상시키고 Recall@10을 17% 향상시켰으며, 8바이트 인코딩 기준 메모리 사용량은 오직 15% 증가(2GB)에 그친다.
• HBPQ에서 국소 코드북을 사용할 경우, 이동 벡터의 인코딩 오차가 전역 코드북 대비 30% 감소한다.
• GIST50M 데이터셋에서는 HBPQ가 다중 D-ADC 대비 Recall@1에서 1.3%에서 2.4% 향상되고 Recall@10에서는 최대 10% 향상되며, 메모리 사용량은 오직 1.5배 증가에 그친다.
• 캐시 비효율성으로 인해 쿼리 시간이 20% 증가했음에도 불구하고, HBPQ는 대규모 데이터셋에서 특히 뛰어난 효율성과 확장성을 유지한다.
• 결과적으로, 충분한 데이터가 각 셀의 코드북 훈련에 제공될 경우, 국소 코드북이 전역 코드북보다 더 효과적임을 입증한다.