[論文レビュー] Satellite System Graph: Towards the Efficiency Up-Boundary of Graph-Based Approximate Nearest Neighbor Search.

Cong Fu, Changxu Wang+1 more|arXiv (Cornell University)|Jul 13, 2019

Caching and Content Delivery参考文献 2被引用数 9

ひとこと要約

本稿では、近似最近傍探索（ANNS）のための新しいグラフベースのインデックスである衛星システムグラフ（SSG）を提案する。SSGは、衛星通信にインspiredされた、ノード間の全方向的かつ均等に分散された接続を保証することで、検索効率を向上させる。エッジ間の最小角度間隔を強制することで、SSGは検索経路長を短縮し、ルーティング効率を向上させ、NSGより低い検索複雑性とより速いインデクシングを実現し、最先端の性能を達成する。

ABSTRACT

Approximate Nearest Neighbor Search (ANNS) in high dimensional space is essential in database and information retrieval. Recently, there has been a surge of interests in exploring efficient graph-based indices for the ANNS problem. Among them, the NSG has resurrected the theory of Monotonic Search Networks (MSNET) and achieved the state-of-the-art performance. However, the performance of the NSG deviates from a potentially optimal position due to the high sparsity of the graph. Specifically, though the average degree of the graph is small, their search algorithm travels a longer way to reach the query. Integrating both factors, the total search complexity (i.e., the number of distance calculations) is not minimized as their wish. In addition, NSG suffers from a high indexing time complexity, which limits the efficiency and the scalability of their method. In this paper, we aim to further mine the potential of the MSNETs. Inspired by the message transfer mechanism of the communication satellite system, we find a new family of MSNETs, namely the Satellite System Graphs (SSG). In particular, while inheriting the superior ANNS properties from the MSNET, we try to ensure the angles between the edges to be no smaller than a given value. Consequently, each node in the graph builds effective connections to its neighborhood omnidirectionally, which ensures an efficient search-routing on the graph like the message transfer among the satellites. We also propose an approximation of the SSG, Navigating SSG, to increase the efficiency of indexing. Both theoretical and extensive experimental analysis are provided to demonstrate the strengths of the proposed approach over the existing state-of-the-art algorithms. Our code has been released on GitHub.

研究の動機と目的

• 既存のグラフベースのANNS手法、特に平均次数が低いにもかかわらず長い検索経路を生じるNSGの非効率性を是正すること。
• 単調探索ネットワーク（MSNET）の理論的潜在能力を、より良い検索ルーティングを実現する構造的特性の向上によって探求すること。
• より直接的かつ効率的な近隣探索に向けたナビゲーションを可能にするグラフ構造を設計することで、検索複雑性とインデクシング時間の低減を図ること。
• 大規模インデクシングにおいても高い効率を維持しながら、SSGの理論的利点を保全する実用的バージョン、ナビゲーティングSSGを提案すること。
• エッジ間の最小角度間隔を強制することで、高次元空間における優れた検索パフォーマンスとスケーラビリティが得られることを示すこと。

提案手法

• 各ノードが、任意の2つの出力エッジ間の角度が事前に定義された閾値未満にならないように接続を維持する、新しいMSNETの族である衛星システムグラフ（SSG）を提案する。
• エッジに角度制約を課すことで、全方向的接続性を確保し、検索時のより直接的かつ効率的なルーティングを可能にし、衛星ネットワーク内のメッセージルーティングに類似した挙動を実現する。
• 検索中の迂回を最小限に抑えるように制御された角度分散を持つSSGの構築アルゴリズムを設計し、距離計算回数の削減を図る。
• SSGの実用的近似として、エッジ選択の簡略化によりインデクシング効率を最適化しながらも、主要な構造的性質を保持するナビゲーティングSSGを導入する。
• 理論的分析により、SSGはバックワードまたはジグザグな経路を防ぐことで、単調な検索進行を保証し、検索収束を向上させることを示している。
• カバレッジと角度間隔の両立を図るため、近傍を意識したグリーディ戦略を用いてエッジを構築し、過剰なインデクシングコストを伴わずに効率的なナビゲーションを実現する。

実験結果

リサーチクエスチョン

• RQ1 グラフベースのANNSインデックスにおいてエッジ間の最小角度間隔を強制することで、短い検索経路と距離計算回数の削減が達成できるか？
• RQ2 SSGの構造的設計は、NSGと比較して検索効率とインデクシング複雑性の面でどのように異なるか？
• RQ3 MSNETの理論的利点は、エッジ方向への角度制約を導入することで、実用的文脈でどの程度実現可能か？
• RQ4 SSGのスケーラブルな近似版、ナビゲーティングSSGは、インデクシング時間を短縮しながらも高い検索パフォーマンスを維持できるか？
• RQ5 衛星にインspiredされたグラフトポロジーは、高次元類似度探索タスクにおいて、既存の最先端ANNS手法を上回る性能を示すか？

主な発見

• SSGは、最近傍に到達するための距離計算回数を削減することで、NSGよりも顕著に低い検索複雑性を達成する。
• エッジに角度制約を課すことで、より直接的なルーティング経路が確保され、迂回を最小限に抑え、検索収束速度が向上する。
• ナビゲーティングSSGは、インデクシング時間を著しく短縮しながらも、強力な検索パフォーマンスを維持しており、NSGよりもスケーラブルである。
• 理論的分析により、SSGが単調な検索進行を保証し、バックワード移動を防ぎ、効率的なナビゲーションを実現することが確認された。
• 広範な実験により、SSGが標準ベンチマークにおいて、精度と効率の両面で既存の最先端ANNS手法を上回ることを示した。
• 提案手法は、検索効率とインデクシングコストの間でより良いトレードオフを達成し、グラフベースANNSの新たな効率上限を設定した。