[論文レビュー] Fast Online k-nn Graph Building

Thibault Debatty, Pietro Michiardi+1 more|arXiv (Cornell University)|Feb 22, 2016

Data Management and Algorithms参考文献 14被引用数 5

ひとこと要約

本稿では、新しいデータポイントが到着するたびにリアルタイムで効率的にk-nnグラフを更新できる高速なオンライン近似k-nnグラフ構築アルゴリズムを提示する。分散かつバランスの取れたk-medianクラスタリングを用いてグラフを分割し、スケーラブルな近隣探索を実現し、パーティション内での最適化された逐次探索を採用することで、全探索手法と比較して顕著に少ない類似度計算で高いグラフ品質を達成する。

ABSTRACT

In this paper we propose an online approximate k-nn graph building algorithm, which is able to quickly update a k-nn graph using a flow of data points. One very important step of the algorithm consists in using the current distributed graph to search for the neighbors of a new node. Hence we also propose a distributed partitioning method based on balanced k-medoids clustering, that we use to optimize the distributed search process. Finally, we present the improved sequential search procedure that is used inside each partition. We also perform an experimental evaluation of the different algorithms, where we study the influence of the parameters and compare the result of our algorithms to existing state of the art. This experimental evaluation confirms that the fast online k-nn graph building algorithm produces a graph that is highly similar to the graph produced by an offline exhaustive algorithm, while it requires less similarity computations.

研究の動機と目的

• ストリーミングデータからk-nnグラフを段階的に構築する際の高い計算コストを軽減すること。
• 最小限の類似度計算でリアルタイムでのk-nnグラフの更新を可能にすること。
• 動的k-nnグラフにおける高速な近隣探索を実現するスケーラブルで分散可能な手法を設計すること。
• オンライン近似にもかかわらず、オフラインの全探索手法と同等のグラフ品質を維持すること。

提案手法

• アルゴリズムは、スケーラブルな探索を実現するため、分散かつバランスの取れたk-medianクラスタリングを用いてk-nnグラフを互いに素な部分集合に分割する。
• 各パーティションは、改良された逐次的グラフベースの近隣探索（iGNNS）を用いて、新しい点のk個の近隣点を特定する。
• 分散探索プロセスは、グラフ構造とパーティション分割を活用して、パーティション間通信を最小限に抑える。
• 近隣点を特定した後、アルゴリズムは、新しい点が既存ノードの近隣点となった場合にそのエッジを更新する。
• データドリフトに適応するため、定期的なメディオイド再計算をオプションでサポートする、インクリメンタルなグラフ構築を実現する。
• 類似度測定手法に依存しないため、任意の距離関数または非距離関数の類似度関数と併用可能である。

実験結果

リサーチクエスチョン

• RQ1 分散的かつオンラインなk-nnグラフ構築アルゴリズムは、最小限の類似度計算で高いパフォーマンスを達成できるか？
• RQ2 オンライングラフの品質は、オフラインの全探索ベースラインと比べてどの程度か？
• RQ3 パーティショニング戦略とメディオイド再計算頻度の影響は、探索精度とパフォーマンスにどのように現れるか？
• RQ4 データ量とパーティション数の増加に伴い、アルゴリズムはどの程度スケーラブルか？

主な発見

• 分散的オンラインアルゴリズムは、全探索手法と比較して4倍の高速化を達成しながらも、高いグラフ品質を維持した。
• 合成データセットでは16,000ノード、SPAMデータセットでは8,000ノードを追加した後も、品質要因Qはそれぞれ80%以上、70%以上を維持した。
• 静的データセットではメディオイド再計算が最終的なグラフ品質にほとんど影響を与えず、間隔をあけた更新で十分であることが示唆された。
• オンライン近似にもかかわらず、オフラインの全探索結果と極めて類似したグラフが生成され、品質の低下は最小限に抑えられた。
• SPAMデータセットでは8つ以上のパーティション、合成データセットでは4つ以上のパーティションを使用すると、利得が減少し、精度も低下した。
• 逐次的iGNNS手法は高いリCALLを達成したが、分散探索による精度の低下は、逐次ベースラインと比較してわずかにしか発生しなかった。