[논문 리뷰] Theoretically-Efficient and Practical Parallel DBSCAN

Yiqiu Wang, Yan Gu외 1명|arXiv (Cornell University)|2019. 12. 12.

Data Management and Algorithms참고 문헌 89인용 수 5

한 줄 요약

이 논문은 유클리드 공간에서 이론적으로 효율적이고 고도로 병렬화된 DBSCAN 알고리즘을 제안하며, 최고의 순차적 알고리즘과 동일한 워크 복잡도를 유지하면서 동시에 다항로그 복잡도의 깊이를 달성한다. 저자들은 최적화된 버전을 구현하여 36-core 시스템에서 최고의 순차적 구현보다 최대 33배 빠르고, 기존의 병렬 DBSCAN 알고리즘보다 최대 6,102배 빠르게 성능을 달성한다.

ABSTRACT

The DBSCAN method for spatial clustering has received significant attention due to its applicability in a variety of data analysis tasks. There are fast sequential algorithms for DBSCAN in Euclidean space that take $O(n\log n)$ work for two dimensions, sub-quadratic work for three or more dimensions, and can be computed approximately in linear work for any constant number of dimensions. However, existing parallel DBSCAN algorithms require quadratic work in the worst case, making them inefficient for large datasets. This paper bridges the gap between theory and practice of parallel DBSCAN by presenting new parallel algorithms for Euclidean exact DBSCAN and approximate DBSCAN that match the work bounds of their sequential counterparts, and are highly parallel (polylogarithmic depth). We present implementations of our algorithms along with optimizations that improve their practical performance. We perform a comprehensive experimental evaluation of our algorithms on a variety of datasets and parameter settings. Our experiments on a 36-core machine with hyper-threading show that we outperform existing parallel DBSCAN implementations by up to several orders of magnitude, and achieve speedups by up to 33x over the best sequential algorithms.

연구 동기 및 목표

• 이론적 효율성과 실용적 성능 사이의 격차를 해소하기 위해, 순차적 알고리즘의 워크 복잡도를 유지하면서도 고도로 병렬화된 알고리즘 설계
• 유클리드 공간에서 정확한 및 근사 DBSCAN을 위한 병렬 알고리즘 개발으로 다항로그 복잡도 깊이와 워크 효율성 확보
• 표준 DBSCAN과 동일한 클러스터링 결과를 도출하면서 품질을 손상시키지 않도록 보장
• 공유 메모리 시스템에서의 실용적 성능을 고도로 최적화하여 기존의 병렬 DBSCAN 솔루션을 뛰어넘는 성능 달성
• 다양한 합성 및 실세계 데이터셋에서 다양한 파라미터 설정으로도 뛰어난 확장성과 성능을 입증

제안 방법

• 박스 또는 격자 분할을 사용한 병렬 2D 정확한 DBSCAN 설계로, 연결성 결정을 위한 세 가지 방법 적용: 데라운이 삼각분할, 선 분리 기반 단위 구면 빈도 검사, 이색적 최근접 쌍 문제
• 고차원 정확한 DBSCAN으로의 확장은 고차원 이색적 최근접 쌍 문제를 병렬로 해결함으로써 달성
• 쿼드트리 구축 및 쿼리 기반 병렬 근사 DBSCAN 알고리즘 개발으로 간-타오(2017)의 순차적 근사 알고리즘의 출력과 동일한 결과 도출
• 락 없는 데이터 구조와 효율적인 메모리 접근 패턴 등의 최적화를 통해 실용적 성능 향상 구현
• 36개의 코어와 이중 하이퍼스레딩을 갖춘 공유 메모리 아키텍처를 사용해 다양한 데이터셋과 파라미터 설정에서 성능 평가
• 워크 효율적인 병렬 프리미티브와 고도의 병렬성(다항로그 복잡도 깊이)을 활용해 이론적 효율성과 실용적 확장성 확보

실험 결과

연구 질문

• RQ1 최고의 순차적 알고리즘과 동일한 워크 복잡도를 유지하면서 다항로그 복잡도 깊이를 확보할 수 있는 병렬 DBSCAN 알고리즘을 설계할 수 있는가?
• RQ2 표준 정의와 비교해 클러스터링 품질이나 출력 정확도를 손상시키지 않고 정확한 DBSCAN을 병렬화할 수 있는가?
• RQ3 근사 DBSCAN을 효율적으로 병렬화하여 순차적 근사 알고리즘의 성능을 따라잡고 다중 코어 시스템에서 잘 확장할 수 있는가?
• RQ4 기존의 병렬 DBSCAN 구현과 비교해 실용적으로 제안된 병렬 알고리즘이 속도 향상과 절대 성능 측면에서 어떻게 비교되는가?
• RQ5 제안된 알고리즘이 이전에 정확한 DBSCAN에 너무 큰 것으로 간주되었던 대규모 데이터셋을 처리할 수 있으며, 분산 대안보다 뛰어난 성능을 보일 수 있는가?

주요 결과

• 제안된 정확한 DBSCAN의 구현은 36-core 시스템에서 평균 24배의 자기 상대적 속도 향상(2–89배)과 최고의 순차적 구현보다 평균 16배 빠른 속도 향상(5–33배)을 달성한다.
• 근사 DBSCAN의 구현은 자기 상대적 속도 향상 평균 24배(14–44배)를 기록하며 강력한 확장성 입증
• 기존의 병렬 DBSCAN 알고리즘과 비교해 최고의 정확한 구현은 최적의 파라미터 설정에서 최대 6,102배 빠르게 작동한다.
• 논문에서 사용된 정확한 DBSCAN의 가장 큰 데이터셋을 처리하며, 동일한 13차원 TeraClickLog 데이터셋에서 최신 분산 RP-DBSCAN 알고리즘보다 18–577배 빠르게 작동한다.
• 매우 뛰어난 병렬 효율성 확보로 다항로그 복잡도 깊이와 최고의 순차적 알고리즘과 동일한 워크 복잡도 달성
• 이론적 효율성과 실용적 성능가 동시에 달성될 수 있음을 확인하며, 이 분야에서 오랫동안 지속된 격차를 메웠다.