[論文レビュー] Non-Metric Space Library Manual

Bilegsaikhan Naidan, Leonid Boytsov+2 more|arXiv (Cornell University)|Aug 22, 2015

Advanced Image and Video Retrieval Techniques参考文献 57被引用数 9

ひとこと要約

NMSLIB は、一般の距離空間および非距離空間における近似類似性検索を対象とした、高性能で拡張可能な C++ および Python ライブラリであり、スケーラブルで効率的な k-NN 及び範囲検索に重点を置いている。最適化された距離関数（例：事前計算された対数）、SIMD ベクトル化、キャッシュに優しいデータレイアウトにより、標準実装と比較して距離計算を最大 10 倍高速化する。

ABSTRACT

This document covers a library for fast similarity (k-NN)search. It describes only search methods and distances (spaces). Details about building, installing, Python bindings can be found online:https://github.com/searchivarius/nmslib/tree/v1.8/. Even though the library contains a variety of exact metric-space access methods, our main focus is on more generic and approximate search methods, in particular, on methods for non-metric spaces. NMSLIB is possibly the first library with a principled support for non-metric space searching.

研究の動機と目的

• 従来の距離空間の仮定（三角不等式など）が成り立たない非距離空間における、原理的で効率的かつ拡張可能な類似性検索ライブラリの提供。
• 特に対数関数や非対称距離関数による高コストな距離計算の性能ボトルネックを、事前計算およびカスタム最適化実装により解消すること。
• バケットオブジェクトを連続的にメモリに格納することでキャッシュに優しいデータレイアウトを採用し、ランダムメモリアクセスコストを低減することで検索効率を向上させること。
• HNSW、VP-ツリー、NAPP、インverted files などの多様な距離関数および検索手法をサポートし、新規手法や距離関数の拡張性を確保すること。
• Python バインディングおよび Thrift を用いたクエリサーバーにより、複数言語間でのデプロイを可能にし、クロスプラットフォーム互換性を実現すること。

提案手法

• KL 発散やジャンセン・シャノン発散などの距離関数の対数成分をインデックス作成時に事前に計算し、クエリ時の計算を高速化することで、遅延を最大 1 時間程度まで低減する。
• KL 発散や JS 発散などのハードな距離関数に対して、カスタムで手作業で最適化された実装を採用し、Intel コンパイラでは標準ライブラリバージョンと比較して最大 10 倍高速化を達成。
• スパースベクトル演算（特に単精度浮動小数点形式のスカラープロダクト）に SIMD 指令（例：_mm_cmpistrm）を活用し、効率的な処理を実現する。
• chunkBucket 機能を有効にした場合、2段階インデキシングプロセスを適用：まず最適化されていないポインタベースのバケットを構築し、その後オブジェクトを連続メモリブロックにコピーすることでキャッシュ局所性を向上させる。
• 距離関数の非対称性を満たすために、非対称距離関数の左クエリおよび右クエリの両方をサポートするため、別々のインデックス構造を維持する。
• 必要な SIMD 指令（例：SSE2）が利用不可の場合、自動的にスカラ C++ 実装にフォールバックすることで、プラットフォーム間でのポータビリティを確保する。

実験結果

リサーチクエスチョン

• RQ1 標準的な数学ライブラリが遅すぎる非距離空間において、距離計算の効率をどのように大幅に向上させられるか？
• RQ2 KL 発散やジャンセン・シャノン発散のような距離関数において、対数項をインデックス作成時に事前計算することで、クエリ時の遅延をどの程度低減できるか？
• RQ3 カスタムで手作業で最適化された距離関数実装は、高度に最適化されたコンパイラ最適化済み標準ライブラリと比較して、性能を上回れるか？
• RQ4 連続的なバケットストレージによるキャッシュに優しいデータレイアウトは、検索中のランダムメモリアクセスオーバーヘッドをどの程度低減できるか？
• RQ5 スパースベクトル演算における SIMD ベクトル化の性能への影響は何か？

主な発見

• インデックス作成時に対数項を事前計算することで、距離計算時間は最大 1 時間程度短縮され、特に KL 発散やジャンセン・シャノン発散のような関数において顕著な恩恵が得られる。
• Intel コンパイラでコンパイルした場合、カスタム実装の KL 発散は標準ライブラリバージョンと比較して 10 倍高速である。Visual Studio では 7 倍高速である。
• Intel コンパイラでは JS 発散のカスタム実装が標準実装と比較して 2 倍高速であり、Visual Studio では 10 倍高速である。
• スパースベクトルのスカラープロダクトに SIMD 指令を適用することで、すべてのペア比較を効率的に行えるが、自動ベクトル化を妨げる特殊なデータフォーマットを必要とする。
• chunkBucket モードを有効にすると、バケットオブジェクトを連続的に格納することでランダムメモリアクセスコストが低減され、キャッシュ性能が向上するが、メモリの重複によりインデックスサイズが 2 倍に増加する。
• 距離計算コストが適切に最適化されていない場合、遅い距離関数をより速いものに置き換えても検索手法の性能が著しく低下する可能性があり、アルゴリズム的および実装レベルの最適化の連携の重要性が浮き彫りになる。