[論文レビュー] Fast hierarchical clustering and other applications of dynamic closest pairs

David Eppstein|arXiv (Cornell University)|Jan 1, 1998

Complexity and Algorithms in Graphs参考文献 34被引用数 39

ひとこと要約

本稿では、任意の距離関数に対して適応可能な動的最近接ペアデータ構造を提示する。O(n)の空間で挿入・削除あたりO(n log n)の均し時間計算量を達成するか、四分木に類似した構造を用いることでO(n²)の空間で最適なO(n)の時間計算量を達成する。この手法は階層的クラスタリング、グリーディマッチング、TSPヒューリスティクスの高速化を可能とし、実用的に従来のヒューリスティクスを上回る性能を示す。

ABSTRACT

We develop data structures for dynamic closest pair problems with arbitrary (not necessarily geometric) distance functions, based on a technique previously used by the author for Euclidean closest pairs. We show how to insert and delete objects from an n-object set, maintaining the closest pair, in O(n log n) time per update and O(n) space. With quadratic space, we can instead use a quadtree-like structure to achieve an optimal time bound, O(n) per update. We apply these data structures to hierarchical clustering, greedy matching, and TSP heuristics, and discuss other potential applications in machine learning, Grobner bases, and local improvement algorithms for partition and placement problems. Experiments show our new methods to be faster in practice than previously used heuristics.

研究の動機と目的

• 任意の距離関数に対して、挿入・削除をサポートしつつ最近接ペアを維持できる効率的な動的最近接ペアデータ構造の開発。
• 四分木に類似した構造を用いてO(n²)の空間を用いることで、O(n)の更新時間という最適な時間計算量を達成すること。
• 動的最近接ペアフレームワークを階層的クラスタリング、グリーディマッチング、TSPヒューリスティクスに適用し、実用的性能の向上を図ること。
• 機械学習、グレブナー基底、分割・配置問題の局所的最適化アルゴリズムなど、より広範な分野への応用を検討すること。

提案手法

• ユークリッド距離に既に適用されていた動的最近接ペア技術を、任意の距離関数へ一般化する。
• 挿入・削除をO(n log n)時間でサポートする動的最近接ペアを維持するデータ構造を採用し、O(n)の空間を用いる。
• 四分木に類似した階層的分割を用いることで、O(n²)の空間を用いる場合に1回の操作あたりO(n)の更新時間の達成を実現する。
• 最近接ペアを段階的にマージすることで、階層的クラスタリングに動的最近接ペア構造を適用する。
• 構築過程で最近接ペアを維持・更新することで、グリーディマッチングおよびTSPヒューリスティクスへのフレームワークの拡張を行う。
• 多様なアルゴリズム的応用に再利用可能な汎用インターフェースを設計する。

実験結果

リサーチクエスチョン

• RQ1 動的最近接ペアデータ構造は、幾何的距離関数を超えて任意の距離関数へ一般化可能か？
• RQ2 限られたメモリ空間を用いた場合に、動的最近接ペアの更新で達成可能な最適な時間計算量は何か？
• RQ3 動的最近接ペアデータ構造は、階層的クラスタリングや他のNP困難なヒューリスティクス問題の高速化にどのように寄与できるか？
• RQ4 このフレームワークは、機械学習やグレブナー基底計算などの代数的計算タスクへ応用可能か？
• RQ5 実用的に、この新手法は従来のヒューリスティクスよりもどの程度の性能向上を達成するか？

主な発見

• 提案手法は、O(n)の空間を用いる場合に、挿入・削除あたりO(n log n)の均し時間計算量を達成し、従来手法に比べ顕著な改善を示す。
• O(n²)の空間を用いる場合、更新時間は最適なO(n)に達し、理論的下界と一致する。
• 動的最近接ペアフレームワークは、階層的クラスタリング、グリーディマッチング、TSPヒューリスティクスの高速化を従来のヒューリスティクスを上回る形で実現する。
• 実験結果から、新アルゴリズムが従来のヒューリスティクスよりも実用的に高速であることが示された。
• このフレームワークは、機械学習、グレブナー基底計算、局所的最適化アルゴリズムなど多様な分野へ拡張可能である。