[論文レビュー] pHNSW: PCA-Based Filtering to Accelerate HNSW Approximate Nearest Neighbor Search

Zheng Li, Guangyi Zeng+3 more|arXiv (Cornell University)|Feb 22, 2026

Advanced Image and Video Retrieval Techniques被引用数 0

ひとこと要約

pHNSW は PCA ベースの次元削減とカスタム ISA ドロージェ processor を組み合わせて HNSW の ANN 検索を加速し、高い再現率を維持しつつ QPS を大幅に向上させ、エネルギーを節約します。

ABSTRACT

Hierarchical Navigable Small World (HNSW) has demonstrated impressive accuracy and low latency for high-dimensional nearest neighbor searches. However, its high computational demands and irregular, large-volume data access patterns present significant challenges to search efficiency. To address these challenges, we introduce pHNSW, an algorithm-hardware co-optimized solution that accelerates HNSW through Principal Component Analysis (PCA) filtering. On the algorithm side, we apply PCA filtering to reduce the dimensionality of the dataset, thereby lowering the volume of neighbor access and decreasing the computational load for distance calculations. On the hardware side, we design the pHNSW processor with custom instructions to optimize search throughput and energy efficiency. In the experiments, we synthesized the pHNSW processor RTL design with a 65nm technology node and evaluated it using DDR4 and HBM1.0 DRAM standards. The results show that pHNSW boosts Queries per Second (QPS) by 14.47x-21.37x on a CPU and 5.37x-8.46x on a GPU, while reducing energy consumption by up to 57.4% compared to standard HNSW implementation.

研究の動機と目的

• 高次元 ANN 検索（HNSW）の加速を、精度を犠牲にせずデータ次元を削減することにより実現する動機づけ。
• HNSW フレームワークに統合された PCA ベースのフィルタリング戦略（pHNSW）を提案する。
• スループットとエネルギー効率を高めるため、ISA を備えたカスタム pHNSW プロセッサと最適化されたメモリ/データフローを設計する。
• 現実的なオフチップメモリ構成で SIFT1M を対象にアプローチを評価し、スループットとエネルギーの利得を定量化する。

提案手法

• 高次元データを隣接フィルタリング前に低次元空間へ射影するために PCA を適用。
• レイヤごとにトップ-k 候補集合を選択するために低次元距離計算とソーティングを実行。
• 高次元空間で正確な距離計算を行うために、トップ-k の低次元候補を高次元空間へ再射影。
• Recall と throughput のバランスを取るため、HNSW グラフのレイヤごとに階層的・レイヤ特有の k 値を導入。
• オフチップデータを整理して低次元データへの規則的・逐次アクセスを可能にし、非規則的なメモリパターンを低減。
• 専用 ISA・カスタム dist/ sort ユニット・DMA ベースのデータフローを備えた pHNSW プロセッサを実装して検索を加速。

実験結果

リサーチクエスチョン

• RQ1 PCA ベースのフィルタリングは、Recall を大きく損なうことなく HNSW における高次元距離計算を削減できるか。
• RQ2 HNSW レイヤ間でトップ-k パラメータをどのように選択すべきか、Recall と QPS のバランスをどうとるか。
• RQ3 データレイアウト、カスタム ISA、並列距離計算/ソートユニットなど、どのアーキテクチャ選択が pHNSW の検索スループットとエネルギー効率を最大化するか。
• RQ4 現実的な DRAM 標準 (DDR4 / HBM1.0) を用いた SIFT1M でのアルゴリズム–ハードウェア共設計のスループットとエネルギー利得はどれくらいか。

主な発見

• pHNSW は層ごとに選択された k 値で SIFT1M における recall@10 が約 0.92 に達する。
• CPU ベースラインと比較した DDR4 および HBM 構成での単一クエリ QPS はそれぞれ 14.47×〜21.37×の改善。
• GPU ベースラインと比較して pHNSW は 5.37×〜8.46×の高い QPS を達成。
• エネルギー消費は標準的な HNSW ハードウェア実装と比較してクエリあたり最大 57.4% 削減され、エネルギー使用の大半は DRAM アクセスが占める。
• pHNSW プロセッサの面積は 0.739 mm^2 で、オンチップメモリ（SPM）と Dist.L/kSort.L compute ユニットが寄与度の大きい要素。