[논문 리뷰] Vector Search for the Future: From Memory-Resident, Static Heterogeneous Storage, to Cloud-Native Architectures

Yitong Song, Xuanhe Zhou외 2명|arXiv (Cornell University)|2026. 01. 05.

Advanced Image and Video Retrieval Techniques인용 수 0

한 줄 요약

본 논문은 벡터 검색 기법이 메모리에 상주하는 연구에서 이종 메모리–SSD, 그리고 탄력적 다계층 클라우드 네이티브 저장소 아키텍처로 진화하는 과정을 조사하고, 설계 원칙, 인덱스 유형, 그리고 개방된 연구 방향을 강조합니다.

ABSTRACT

Vector search (VS) has become a fundamental component in multimodal data management, enabling core functionalities such as image, video, and code retrieval. As vector data scales rapidly, VS faces growing challenges in balancing search, latency, scalability, and cost. The evolution of VS has been closely driven by changes in storage architecture. Early VS methods rely on all-in-memory designs for low latency, but scalability is constrained by memory capacity and cost. To address this, recent research has adopted heterogeneous architectures that offload space-intensive vectors and index structures to SSDs, while exploiting block locality and I/O-efficient strategies to maintain high search performance at billion scale. Looking ahead, the increasing demand for trillion-scale vector retrieval and cloud-native elasticity is driving a further shift toward memory-SSD-object storage architectures, which enable cost-efficient data tiering and seamless scalability. In this tutorial, we review the evolution of VS techniques from a storage-architecture perspective. We first review memory-resident methods, covering classical IVF, hash, quantization, and graph-based designs. We then present a systematic overview of heterogeneous storage VS techniques, including their index designs, block-level layouts, query strategies, and update mechanisms. Finally, we examine emerging cloud-native systems and highlight open research opportunities for future large-scale vector retrieval systems.

연구 동기 및 목표

• 저장 아키텍처가 대규모에서 벡터 검색 방법 설계와 성능에 어떻게 영향을 미치는지 동기 부여하고 설명합니다.
• IVF, 해시, 양자화, 그래프 기반 군집을 아우르는 메모리 상주 VS 기법을 체계적으로 리뷰합니다.
• 이종 메모리–SSD VS 기법과 블록 수준 레이아웃, I/O 인지 전략, 업데이트를 포괄적으로 제시합니다.
• 신생하는 탄력적 다계층의 클라우드 네이티브 VS 아키텍처를 탐색하고 개방된 연구 기회를 제시합니다.

제안 방법

• 저장 아키텍처별 벡터 검색 기법 분류: 메모리 상주, 이종 메모리–SSD, 및 탄력적 다계층 클라우드 네이티브 시스템.
• 네 가지 메모리 상주 VS 계열(IVF, 해시, 양자화, 그래프)과 그 성능 특성을 논의합니다.
• SSI 친화적 레이아웃, 블록 인식 포스팅 리스트, I/O 효율적 프로빙 전략을 IVF, 그래프, 트리 기반 방법 전반에 걸쳐 이질적 저장소 VS 설계를 설명합니다.
• SSD 상주 인덱스에서 I/O를 줄이고 로컬리티를 향상시키기 위한 거칠은-세부(coarse-to-fine) 및 디스크 친화적 설계를 제시합니다.
• 메모리–SSD–오브젝트 저장소로의 탄력적 다계층 아키텍처와 클라우드 네이티브 맥락에서 계층 인지 쿼리/업데이트 파이프라인을 강조합니다.
• 계층 공동 설계, 적응형 캐싱, 비용 효율적이고 확장 가능한 아키텍처를 포함한 향후 연구 방향을 식별합니다.

실험 결과

연구 질문

• RQ1 메모리 상주 VS 방법은 IVF, 해시, 양자화, 그래프에서 인덱스 설계와 업데이트 지원에 어떻게 차이가 있나요?
• RQ2 SSD 상주 및 디스크 기반 벡터 검색을 가능하게 하는 설계 원칙과 데이터 레이아웃은 무엇인가요?
• RQ3 탄력적 다계층 클라우드 네이티브 아키텍처가 벡터 검색 설계, 성능, 비용에 어떤 영향을 미치나요?
• RQ4 확장 가능한 클라우드 네이티브 벡터 검색 시스템을 위한 남아 있는 개방된 연구 기회는 무엇인가요?

주요 결과

• 메모리 상주 VS 방법은 높은 성능을 달성하지만 메모리 비용과 벡터 양으로 인한 확장성 제약에 직면합니다.
• 이질적 저장소 VS는 라우팅과 대략적 가지치기에 메모리를 사용하고, SSD는 벡터와 미세한 인덱스를 보유하며, 임의 접근을 줄이기 위해 I/O 인지 레이아웃을 사용합니다.
• SSD에서 탐색 가능성을 유지하기 위해 디스크 친화적 그래프 설계와 블록 지역성 레이아웃이 필수적이며, 거칠은-세부 탐색과 비동기 I/O로 지연을 숨깁니다.
• 탄력적 다계층 VS 아키텍처는 메모리, SSD, 객체 저장소에 데이터를 계층화하고 더 hotter인 데이터를 동적으로 승격시키는 방식으로 트릴리언 규모의 검색을 확장 가능하게 합니다.
• 산업 시스템(예: Zilliz Cloud 및 TurboPuffer)은 실제 배치를 보여주고 계층 인지 인덱스 동시 설계, 적응형 캐싱, 비용 최적화의 향후 방향을 제시합니다.