[논문 리뷰] Fast hierarchical clustering and other applications of dynamic closest pairs

David Eppstein|arXiv (Cornell University)|1998. 01. 01.

Complexity and Algorithms in Graphs참고 문헌 34인용 수 39

한 줄 요약

이 논문은 임의의 거리 함수에 대해 동적 최근접 쌍 데이터 구조를 제안하며, O(n) 공간을 사용할 경우 삽입/삭제당 평균 O(n log n) 시간을 보장하거나, 4분할 트리 유사 구조를 통해 O(n²) 공간을 사용할 경우 최적의 O(n) 시간을 달성한다. 이 방법은 계층적 군집화, 탐욕적 매칭, TSP 휴리스틱을 가속화하며, 이전 휴리스틱보다 실질적으로 뛰어난 성능을 보인다.

ABSTRACT

We develop data structures for dynamic closest pair problems with arbitrary (not necessarily geometric) distance functions, based on a technique previously used by the author for Euclidean closest pairs. We show how to insert and delete objects from an n-object set, maintaining the closest pair, in O(n log n) time per update and O(n) space. With quadratic space, we can instead use a quadtree-like structure to achieve an optimal time bound, O(n) per update. We apply these data structures to hierarchical clustering, greedy matching, and TSP heuristics, and discuss other potential applications in machine learning, Grobner bases, and local improvement algorithms for partition and placement problems. Experiments show our new methods to be faster in practice than previously used heuristics.

연구 동기 및 목표

• 임의의 거리 함수에 대해 삽입 및 삭제를 지원하면서도 최근접 쌍을 유지할 수 있는 효율적인 동적 최근접 쌍 데이터 구조를 개발하는 것.
• 4분할 트리 유사 구조를 통해 이차 공간을 사용할 경우 최적의 업데이트 시간 복잡도—삽입/삭제당 O(n)—를 달성하는 것.
• 동적 최근접 쌍 프레임워크를 계층적 군집화, 탐욕적 매칭, TSP 휴리스틱에 적용하여 실용적 성능을 향상시키는 것.
• 기계 학습, 그로브너 기초, 분할 및 배치 문제를 위한 국소 개선 알고리즘 등 더 넓은 응용 분야를 탐색하는 것.

제안 방법

• 기존에 유클리드 거리에 대해 적용된 동적 최근접 쌍 기법을 일반화하여 임의의 거리 함수에 적용하는 것.
• 삽입 및 삭제가 O(n log n) 시간에 가능하고 O(n) 공간을 사용하는 동적 최근접 쌍을 유지하는 데이터 구조를 활용하는 것.
• O(n²) 공간을 사용할 경우 O(n) 업데이트 시간을 달성하기 위해 4분할 트리 유사 계층적 분해를 사용하는 것.
• 최근접 쌍을 점진적으로 병합함으로써 동적 최근접 쌍 구조를 계층적 군집화에 적용하는 것.
• 구축 과정에서 최근접 쌍을 유지하고 업데이트함으로써 프레임워크를 탐욕적 매칭 및 TSP 휴리스틱으로 확장하는 것.
• 다양한 알고리즘적 응용 분야에서 재사용 가능한 일반 목적의 인터페이스를 설계하는 것.

실험 결과

연구 질문

• RQ1 동적 최근접 쌍 데이터 구조는 기하 거리 함수를 초월해 임의의 거리 함수로 일반화될 수 있는가?
• RQ2 제한된 공간을 사용할 경우 동적 최근접 쌍 업데이트에 대해 달성 가능한 최적의 시간 복잡도는 무엇인가?
• RQ3 동적 최근접 쌍 데이터 구조는 계층적 군집화 및 기타 NP-난이도 휴리스틱 문제를 얼마나 빠르게 가속화할 수 있는가?
• RQ4 이 프레임워크는 기계 학습 및 그로브너 기초와 같은 대수적 계산 작업에 적용될 수 있는가?
• RQ5 실제로 기존 휴리스틱보다 새로운 방법이 얼마나 뛰어난 성능 향상을 이룰 수 있는가?

주요 결과

• 제안된 방법은 O(n) 공간을 사용할 경우 삽입 또는 삭제당 평균 O(n log n) 시간을 달성하며, 이는 이전 방법보다 크게 향상되었다.
• O(n²) 공간을 사용할 경우, 메서드는 최적의 O(n) 업데이트 시간을 달성하여 이론적 하한선과 일치한다.
• 동적 최근접 쌍 프레임워크는 계층적 군집화, 탐욕적 매칭, TSP 휴리스틱을 이전 휴리스틱 방법보다 빠르게 처리한다.
• 실험 결과는 새로운 알고리즘이 이전에 사용된 휴리스틱보다 실질적으로 더 빠르다는 것을 보여준다.
• 이 프레임워크는 기계 학습, 그로브너 기초 계산, 국소 개선 알고리즘 등 다양한 분야로 확장 가능하다.