[論文レビュー] Algorithm Engineering for High-Dimensional Similarity Search Problems (Invited Talk)

Masajiro Iwasaki|arXiv (Cornell University)|Oct 17, 2018

Advanced Image and Video Retrieval Techniques参考文献 22被引用数 39

ひとこと要約

この論文は、高次元類似度検索のためのグラフベースのインデキシングフレームワークを提案しており、ノードのインデグリとアウトデグリを最適化することで、検索精度とクエリ効率のバランスをとる。静的・制約付き・動的デグリ調整法に加え、パス最適化と訪問済みノード管理を導入することで、画像およびテキストデータセットにおいて、従来手法よりも高速なクエリ時間と高い精度を達成し、最適なパフォーマンスを自動でパラメータチューニング可能である。

ABSTRACT

Searching for high-dimensional vector data with high accuracy is an inevitable search technology for various types of data. Graph-based indexes are known to reduce the query time for high-dimensional data. To further improve the query time by using graphs, we focused on the indegrees and outdegrees of graphs. While a sufficient number of incoming edges (indegrees) are indispensable for increasing search accuracy, an excessive number of outgoing edges (outdegrees) should be suppressed so as to not increase the query time. Therefore, we propose three degree-adjustment methods: static degree adjustment of not only outdegrees but also indegrees, dynamic degree adjustment with which outdegrees are determined by the search accuracy users require, and path adjustment to remove edges that have alternative search paths to reduce outdegrees. We also show how to obtain optimal degree-adjustment parameters and that our methods outperformed previous methods for image and textual data.

研究の動機と目的

• 高次元類似度検索における検索精度とクエリ時間のトレードオフを解消すること。
• 従来の研究でしばしば独立して扱われるインデグリとアウトデグリを同時に最適化することで、グラフベースインデキシングを改善すること。
• ユーザーが指定する精度要件に基づいて、クエリ時にアウトデグリを動的に調整できること。
• 代替パスが存在するショートカットエッジを削除することで、冗長なエッジを排除し、クエリ時間を短縮すること。
• 最適化された訪問済みノード管理により、クエリ処理を高速化すること。

提案手法

• k近傍グラフ（KNNG）からのエッジと逆エッジを用いて、インデグリとアウトデグリを制御する静的デグリ調整を提案。
• ユーザーが定義した境界値を用いて、インデグリとアウトデグリをより正確に制御できる制約付き静的デグリ調整を導入。
• 必要な精度に応じてクエリ時に最適なアウトデグリを設定する動的デグリ調整を提案。探索半径を制御するパラメータǫを用いる。
• 代替パスが存在するショートカットエッジを削除することで、アウトデグリとクエリコストを削減するパス調整を導入。
• グラフ走査中のオーバーヘッドを低減するためのカスタムデータ構造を用いた訪問済みノード管理を改善。
• 実験的最適化により、ターゲットデータセット上でパフォーマンスを最大化するため、デグリパラメータ（eo, ei）を自動でチューニング。

実験結果

リサーチクエスチョン

• RQ1 KNNGにおけるインデグリとアウトデグリの共同最適化は、検索精度とクエリ時間の両方を向上させることができるか？
• RQ2 必要な精度に基づく動的デグリ調整は、静的設定と比較して性能にどのように影響するか？
• RQ3 パス調整（冗長エッジの削除）は、精度を損なわずにどれほどクエリ時間を短縮できるか？
• RQ4 提案された訪問済みノード管理は、クエリ時間のオーバーヘッドをどれほど効果的に削減できるか？
• RQ5 異なるデータセットに対して最適なデグリパラメータを自動で特定でき、一貫したパフォーマンス向上を達成できるか？

主な発見

• 提案された動的デグリ調整法は、静的手法や従来手法を上回り、特に高精度レベルにおいてクエリ時間と精度の両面で優れた性能を示した。
• パス調整により、代替パスが存在するエッジを削除することで、アウトデグリとクエリ時間が顕著に削減されたが、検索精度は劣化しなかった。
• 改善された訪問済みノード管理は、標準コンテナ（unordered map、array）と比較して、特に高精度条件下で初期化オーバーヘッドが小さい場合に、クエリ時間をより効果的に短縮した。
• 最適なデグリパラメータ（eo, ei）は、異なるデータセットサイズにおいても安定しており、サブセットでの最適化が大規模データセットに対してもほぼ最適な結果をもたらす可能性を示唆した。
• 検索においてO(log n)の計算量の複雑性を達成しており、データセットサイズに応じた効率的なスケーリングが可能であることが示された。
• SIFT 10Mにおいて、DA法は距離計算回数とクエリ時間の両面で、ANNG、AKNNG、SAC、PANNGを上回り、優れた効率性と精度を示した。