[论文解读] Satellite System Graph: Towards the Efficiency Up-Boundary of Graph-Based Approximate Nearest Neighbor Search.

Cong Fu, Changxu Wang+1 more|arXiv (Cornell University)|Jul 13, 2019

Caching and Content Delivery参考文献 2被引用 9

一句话总结

本文提出卫星系统图（SSG），一种新型基于图的近似最近邻搜索（ANNS）索引，通过确保节点之间全向且分布均匀的连接来提升搜索效率——灵感源自卫星通信。通过强制要求边之间的最小夹角分离，SSG 缩短了搜索路径长度并提升了路由效率，在搜索复杂度更低、索引速度更快的前提下，实现了最先进性能，优于 NSG。

ABSTRACT

Approximate Nearest Neighbor Search (ANNS) in high dimensional space is essential in database and information retrieval. Recently, there has been a surge of interests in exploring efficient graph-based indices for the ANNS problem. Among them, the NSG has resurrected the theory of Monotonic Search Networks (MSNET) and achieved the state-of-the-art performance. However, the performance of the NSG deviates from a potentially optimal position due to the high sparsity of the graph. Specifically, though the average degree of the graph is small, their search algorithm travels a longer way to reach the query. Integrating both factors, the total search complexity (i.e., the number of distance calculations) is not minimized as their wish. In addition, NSG suffers from a high indexing time complexity, which limits the efficiency and the scalability of their method. In this paper, we aim to further mine the potential of the MSNETs. Inspired by the message transfer mechanism of the communication satellite system, we find a new family of MSNETs, namely the Satellite System Graphs (SSG). In particular, while inheriting the superior ANNS properties from the MSNET, we try to ensure the angles between the edges to be no smaller than a given value. Consequently, each node in the graph builds effective connections to its neighborhood omnidirectionally, which ensures an efficient search-routing on the graph like the message transfer among the satellites. We also propose an approximation of the SSG, Navigating SSG, to increase the efficiency of indexing. Both theoretical and extensive experimental analysis are provided to demonstrate the strengths of the proposed approach over the existing state-of-the-art algorithms. Our code has been released on GitHub.

研究动机与目标

• 为解决现有基于图的 ANNS 方法（尤其是 NSG）效率低下的问题，NSG 尽管平均度数较低，但搜索路径仍过长。
• 通过改进其结构特性，探索单调搜索网络（MSNET）的理论潜力，以实现更优的搜索路由。
• 通过设计一种支持更直接、高效导航至最近邻的图结构，降低搜索复杂度与索引时间。
• 提出一种实用变体 Navigating SSG，其在大规模索引中保持高效率，同时保留 SSG 的理论优势。
• 证明在边之间强制实施最小夹角分离，可在高维空间中实现更优的搜索性能与可扩展性。

提出的方法

• 提出一类新的 MSNET，称为卫星系统图（SSG），其中每个节点维护与邻居的连接，使得任意两条出边之间的夹角不小于预设阈值。
• 对边施加角度约束，以确保全向连通性，从而在搜索过程中实现更直接、高效的路由，类似于卫星网络中的消息转发。
• 设计一种构造算法，生成具有受控角度分布的 SSG，最小化绕行路径，并减少搜索过程中的距离计算次数。
• 提出 Navigating SSG 作为 SSG 的实用近似，通过简化边选择策略优化索引效率，同时保留关键结构特性。
• 理论分析表明，SSG 通过防止反向或锯齿状路径，确保了单调的搜索进展，从而提升搜索收敛性。
• 采用一种贪婪的、邻域感知的策略构建边，以在覆盖范围与角度分离之间取得平衡，确保高效导航且不产生过高的索引成本。

实验结果

研究问题

• RQ1 在基于图的 ANNS 索引中强制实施边之间的最小夹角分离，是否能带来更短的搜索路径和更少的距离计算？
• RQ2 SSG 的结构设计与 NSG 相比，在搜索效率和索引复杂度方面有何差异？
• RQ3 通过在边方向上施加角度约束，MSNET 的理论优势在多大程度上能在实际中实现？
• RQ4 一种可扩展的 SSG 近似——Navigating SSG——是否能在降低索引时间的同时保持高性能的搜索能力？
• RQ5 受卫星启发的图拓扑结构是否在高维相似性搜索任务中优于现有最先进 ANNS 方法？

主要发现

• SSG 通过减少达到最近邻所需的距离计算次数，显著降低了搜索复杂度，优于 NSG。
• 边的角度约束确保了更直接的路由路径，最小化绕行，提升了搜索收敛速度。
• Navigating SSG 在大幅降低索引时间的同时，仍保持了强大的搜索性能，使其在可扩展性上优于 NSG。
• 理论分析证实，SSG 保证了单调的搜索进展，防止反向移动，确保高效导航。
• 大量实验表明，SSG 在标准基准测试中，无论在准确性还是效率方面，均优于现有最先进 ANNS 方法。
• 所提方法在搜索效率与索引成本之间实现了更优的权衡，为基于图的 ANNS 设定了新的效率上限。