[논문 리뷰] Satellite System Graph: Towards the Efficiency Up-Boundary of Graph-Based Approximate Nearest Neighbor Search.

Cong Fu, Changxu Wang외 1명|arXiv (Cornell University)|2019. 07. 13.

Caching and Content Delivery참고 문헌 2인용 수 9

한 줄 요약

이 논문은 근사 최근접 이웃 검색(ANNS)을 위한 새로운 그래프 기반 색인인 위성 시스템 그래프(SSG)를 제안한다. SSG는 위성 통신에 영감을 받아 노드 간의 전방위적이고 잘 분포된 연결을 보장함으로써 검색 효율성을 향상시킨다. 간선 간 최소 각도 간격을 강제함으로써 SSG는 검색 경로 길이를 줄이고 라우팅 효율을 향상시켜 NSG보다 낮은 검색 복잡도와 더 빠른 색인화를 달성하면서도 최신 기술 수준의 성능을 확보한다.

ABSTRACT

Approximate Nearest Neighbor Search (ANNS) in high dimensional space is essential in database and information retrieval. Recently, there has been a surge of interests in exploring efficient graph-based indices for the ANNS problem. Among them, the NSG has resurrected the theory of Monotonic Search Networks (MSNET) and achieved the state-of-the-art performance. However, the performance of the NSG deviates from a potentially optimal position due to the high sparsity of the graph. Specifically, though the average degree of the graph is small, their search algorithm travels a longer way to reach the query. Integrating both factors, the total search complexity (i.e., the number of distance calculations) is not minimized as their wish. In addition, NSG suffers from a high indexing time complexity, which limits the efficiency and the scalability of their method. In this paper, we aim to further mine the potential of the MSNETs. Inspired by the message transfer mechanism of the communication satellite system, we find a new family of MSNETs, namely the Satellite System Graphs (SSG). In particular, while inheriting the superior ANNS properties from the MSNET, we try to ensure the angles between the edges to be no smaller than a given value. Consequently, each node in the graph builds effective connections to its neighborhood omnidirectionally, which ensures an efficient search-routing on the graph like the message transfer among the satellites. We also propose an approximation of the SSG, Navigating SSG, to increase the efficiency of indexing. Both theoretical and extensive experimental analysis are provided to demonstrate the strengths of the proposed approach over the existing state-of-the-art algorithms. Our code has been released on GitHub.

연구 동기 및 목표

• 기존 그래프 기반 ANNS 방법, 특히 평균 차수는 낮지만 긴 검색 경로로 인해 비효율적인 NSG의 문제를 해결하기 위해.
• 검색 라우팅을 위한 구조적 성질을 향상시켜 단조적 검색 네트워크(MSNET)의 이론적 잠재력을 탐색하기 위해.
• 더 직접적이고 효율적인 근처 이웃 향한 탐색을 가능하게 하는 그래프 구조를 설계함으로써 검색 복잡도와 색인 시간을 감소시키기 위해.
• 대규모 색인화 동안 높은 효율성을 유지하면서도 SSG의 이론적 이점을 유지하는 실용적 변종인 Navigating SSG를 제안하기 위해.
• 간선 간 최소 각도 간격을 강제하면 고차원 공간에서 더 뛰어난 검색 성능과 확장성 확보가 가능함을 입증하기 위해.

제안 방법

• 각 노드가 두 개 이상의 간선을 가지며, 임의의 두 외부 간선 간의 각도가 사전 정의된 임계값 이하가 되지 않도록 유지하는 새로운 MSNET 가족인 위성 시스템 그래프(SSG)를 제안한다.
• 간선에 각도 제약 조건을 적용하여 전방위적 연결성을 확보하고, 위성 네트워크의 메시지 라우팅과 유사하게 더 직접적이고 효율적인 라우팅을 가능하게 한다.
• 각도 분포를 제어할 수 있는 SSG 생성 알고리즘을 설계하여 도착지로의 경로를 최소화하고 검색 중 거리 계산 횟수를 줄인다.
• SSG의 실용적 근사치인 Navigating SSG를 도입하여 간선 선택을 단순화함으로써 색인 효율성을 최적화하면서도 핵심 구조적 성질을 유지한다.
• 이론적 분석을 통해 SSG는 후진 또는 진동하는 경로를 방지함으로써 단조적 검색 진행을 보장하여 검색 수렴성을 향상시킨다.
• 커버리지와 각도 간격을 균형 있게 유지할 수 있도록 이웃 기반의 탐욕적 전략을 사용해 간선를 구축함으로써 과도한 색인 비용 없이 효율적인 탐색을 보장한다.

실험 결과

연구 질문

• RQ1 그래프 기반 ANNS 색인에서 간선 간 최소 각도 간격을 강제하면 더 짧은 검색 경로와 감소된 거리 계산 횟수를 달성할 수 있는가?
• RQ2 SSG의 구조적 설계는 검색 효율성과 색인 복잡도 측면에서 NSG와 비교해 어떻게 다른가?
• RQ3 MSNET의 이론적 이점은 간선 방향에 각도 제약을 적용함으로써 얼마나 실질적으로 실현될 수 있는가?
• RQ4 SSG의 확장 가능한 근사치인 Navigating SSG는 색인 시간을 줄이면서도 높은 검색 성능을 유지할 수 있는가?
• RQ5 위성 유도 그래프 구조는 고차원 유사도 검색 작업에서 기존 최신 기술 수준의 ANNS 방법을 능가하는가?

주요 결과

• SSG는 근처 이웃에 도달하기 위해 필요한 거리 계산 횟수를 줄임으로써 NSG보다 훨씬 낮은 검색 복잡도를 달성한다.
• 간선에 대한 각도 제약 조건은 더 직접적인 라우팅 경로를 보장하여 도착지로의 경로를 최소화하고 검색 수렴 속도를 향상시킨다.
• Navigating SSG는 색인 시간을 크게 줄이며도 높은 검색 성능을 유지하여 NSG보다 더 확장 가능한 성능을 제공한다.
• 이론적 분석을 통해 SSG는 후진 이동을 방지하고 효율적인 탐색을 보장하는 단조적 검색 진행을 보장함을 확인했다.
• 광범위한 실험을 통해 SSG는 표준 벤치마크에서 정확도와 효율성 측면에서 기존 최신 기술 수준의 ANNS 방법을 모두 능가함을 입증했다.
• 제안된 방법은 검색 효율성과 색인 비용 사이의 더 나은 트레이드오프를 달성하여 그래프 기반 ANNS의 새로운 효율성 상한선을 설정한다.