[논문 리뷰] Link and code: Fast indexing with graphs and compact regression codes

MMatthijs Douze, Alexandre Sablayrolles외 1명|arXiv (Cornell University)|2018. 04. 26.

Advanced Image and Video Retrieval Techniques참고 문헌 35인용 수 7

한 줄 요약

이 논문은 메모리 제약 조건 하에서 정확도를 향상시키기 위해 압축된 벡터 인코딩과 정량화된 회귀를 결합한 그래프 기반 근사 최근접 이웃 검색 방법인 Link and Code(L&C)를 제안한다. 최적화된 제품 양자화(OPQ)를 활용해 각 벡터당 8–32바이트로 압축하고, 계층적 가시성 작은 세계(HNSW) 그래프를 이용해 빠른 그래프 탐색을 구현하며, 지역 이웃에서 정량화된 회귀 모델을 통해 원본 벡터를 예측함으로써 정확도를 향상시킨다. 이로 인해 Deep1B와 BIGANN과 같은 빌리언 스케일 데이터셋에서 기존 방법보다 뛰어난 정확도를 달성하며, 각 벡터당 64–128바이트의 메모리로도 더 빠른 검색 시간을 확보한다.

ABSTRACT

Similarity search approaches based on graph walks have recently attained outstanding speed-accuracy trade-offs, taking aside the memory requirements. In this paper, we revisit these approaches by considering, additionally, the memory constraint required to index billions of images on a single server. This leads us to propose a method based both on graph traversal and compact representations. We encode the indexed vectors using quantization and exploit the graph structure to refine the similarity estimation. In essence, our method takes the best of these two worlds: the search strategy is based on nested graphs, thereby providing high precision with a relatively small set of comparisons. At the same time it offers a significant memory compression. As a result, our approach outperforms the state of the art on operating points considering 64-128 bytes per vector, as demonstrated by our results on two billion-scale public benchmarks.

연구 동기 및 목표

• 메모리 효율적인 압축 코드와 고정밀 그래프 탐색을 조합하여 대규모 유사도 검색에서 확장성과 정확도의 상충 관계를 해결한다.
• 단일 서버에서 일억 개의 벡터를 색인하면서도 높은 검색 정확도를 유지할 수 있도록 한다.
• 그래프 연결성을 활용해 이웃에서 정량화된 회귀를 통해 압축 표현에서의 거리 추정 정확도를 향상시킨다.
• 크기 조절 가능한 코드 크기에서 그래프 기반 후보 생성 방식이 인verted list 기반 방법보다 고정밀도 영역에서 우수한 성능을 보임을 입증한다.

제안 방법

• 각 벡터를 8–32바이트로 압축하기 위해 최적화된 제품 양자화(OPQ)를 사용하여 메모리 사용량을 줄인다.
• 검색 중 빠르고 선택도가 높은 그래프 탐색을 가능하게 하기 위해 계층적 가시성 작은 세계(HNSW) 그래프를 구축한다.
• 각 벡터는 그래프 내에서 k개의 가장 가까운 이웃에서 원본 벡터를 예측하는 정량화된 회귀 모델을 통해 개선되며, 이때는 학습된 회귀 계수의 코드북을 사용한다.
• 재구성 오차를 최소화하기 위해 반복 최적화를 통해 회귀 계수를 학습한다.
• 회귀 가중치는 각 벡터당 몇 바이트만 저장하므로 메모리 오버헤드가 극히 작다.
• 이 방법은 Faiss 라이브러리에 통합되어 Deep1B와 BIGANN 벤치마크에서 10억 개의 벡터로 평가되었다.

실험 결과

연구 질문

• RQ1 그래프 기반 검색 전략과 압축된 벡터 표현을 효과적으로 조합하여 단일 서버에서 일억 개의 벡터로 확장 가능한가?
• RQ2 초기 근사치로 근접한 중심점(coarse centroid)을 사용하는 것이 압축 코드북 내에서 가장 가까운 이웃을 사용하는 것보다 우수한가?
• RQ3 그래프 이웃에서 정량화된 회귀를 통해 메모리 비용을 최소화하면서도 상당한 유사도 추정 정확도 향상을 달성할 수 있는가?
• RQ4 크기 조절 가능한 코드 크기에서 HNSW의 선택도는 IMI와 같은 인verted list 기반 방법보다 어떻게 비교되는가?
• RQ5 압축 코드와 그래프 정밀도 향상의 조합이 빌리언 스케일 벤치마크에서 최고 성능을 달성할 수 있는가?

주요 결과

• Deep1B 벤치마크에서 L&C는 각 벡터당 108바이트로 3.50ms당 1회 검색 시 66.7%의 리콜@1을 달성하며, Polysemous 코드(45.6% 리콜@1) 및 기타 방법보다 정확도와 속도 면에서 뛰어나다.
• 각 벡터당 96바이트로 Deep1B에서 50% 리콜@1에 도달하는 데 L&C는 IMI보다 2.5배 더 빠르며, 효율-정확도 균형에서 뛰어난 성능을 보인다.
• 정량화된 회귀를 통한 정밀도 향상 단계는 각 벡터당 몇 바이트 추가 비용만으로도 정확도를 크게 향상시킨다.
• HNSW 기반 후보 생성은 특히 더 큰 코드 크기(예: 128바이트)에서 IMI보다 훨씬 높은 선택도를 보이며, 고정밀도 영역에서 그래프 기반 방법의 우수성을 입증한다.
• 기존의 HNSW와 같이 전체 벡터 저장이 필요한 그래프 기반 방법들과 달리, L&C는 단일 서버에서 일억 개의 벡터로 확장 가능하다.
• L&C는 Deep1B와 BIGANN 양쪽 모두에서 최고 성능을 기록하며, 실용적인 메모리 사용량으로 고정밀도 영역에서 새로운 기준을 설정한다.