[논문 리뷰] LocationSpark: In-memory Distributed Spatial Query Processing and Optimization

Mingjie Tang, Yongyang Yu외 4명|arXiv (Cornell University)|2019. 07. 08.

Data Management and Algorithms참고 문헌 23인용 수 9

한 줄 요약

LocationSpark는 공간 쿼리 스케일과 통신 오버헤드에 최적화된 메모리 기반 분산 공간 쿼리 처리 시스템을 제안한다. 공간 쿼리 스케일을 고려한 비용 기반 쿼리 스케줄러와 공간 비트맵 필터(sFilter)를 도입하고, 적응형 로컬 계획 최적화를 통해 기존 시스템 대비 최대 10배의 성능 향상을 달성했다. 실제 데이터셋인 Twitter와 OpenStreetMap에서 검증되었다.

ABSTRACT

Due to the ubiquity of spatial data applications and the large amounts of spatial data that these applications generate and process, there is a pressing need for scalable spatial query processing. In this paper, we present new techniques for spatial query processing and optimization in an in-memory and distributed setup to address scalability. More specifically, we introduce new techniques for handling query skew, which is common in practice, and optimize communication costs accordingly. We propose a distributed query scheduler that use a new cost model to optimize the cost of spatial query processing. The scheduler generates query execution plans that minimize the effect of query skew. The query scheduler employs new spatial indexing techniques based on bitmap filters to forward queries to the appropriate local nodes. Each local computation node is responsible for optimizing and selecting its best local query execution plan based on the indexes and the nature of the spatial queries in that node. All the proposed spatial query processing and optimization techniques are prototyped inside Spark, a distributed memory-based computation system. The experimental study is based on real datasets and demonstrates that distributed spatial query processing can be enhanced by up to an order of magnitude over existing in-memory and distributed spatial systems.

연구 동기 및 목표

• 데이터 스케일과 높은 I/O 비용으로 인한 분산 공간 쿼리 처리의 확장성 및 성능 저하 문제를 해결한다.
• 중복된 데이터 재정렬을 최소화하여 분산 공간 조인의 통신 오버헤드를 감소시킨다.
• 공간 쿼리 스케일과 데이터 분포를 고려한 새로운 비용 모델을 사용해 쿼리 실행 계획을 최적화한다.
• Spark를 기반 실행 엔진으로 사용하여 대규모 공간 워크로드의 효율적인 메모리 기반 처리를 가능하게 한다.
• 적응형 로컬 계획 선택과 공간 색인을 통해 공간 범위 조인과 k-NN 조인의 성능을 향상시킨다.

제안 방법

• 스케일 영향을 최소화하는 실행 계획을 생성하기 위해 새로운 비용 모델을 사용하는 분산 쿼리 스케줄러를 설계한다.
• 공간 분포에 기반해 관련 로컬 노드에 쿼리를 효율적으로 전달하기 위해 공간 비트맵 필터 기법인 sFilter를 도입한다.
• 로컬 인덱스와 쿼리 특성에 기반해 각 노드에서 적응형 로컬 쿼리 최적화를 구현한다.
• Spark에 시스템을 통합하여 메모리 기반 계산과 장애 복구 기능을 활용한다.
• 전송 이전에 관련 파artition을 사전에 선택하기 위해 비트맵 기반 필터링을 사용해 셔플 비용을 줄인다.
• EC2 클러스터에서 다양한 워커 수와 조인 유형을 사용해 실제 데이터셋(Twitter, OSMP)을 대상으로 성능을 평가한다.

실험 결과

연구 질문

• RQ1 분산 공간 처리에서 발생하는 공간 쿼리 스케일을 효과적으로 완화할 수 있는 방법은 무엇인가?
• RQ2 공간 데이터 스케일 하에서 최적의 쿼리 실행 계획 생성을 가능하게 하는 비용 모델은 무엇인가?
• RQ3 메모리 기반 계산과 최적화된 필터링을 통해 공간 조인의 통신 오버헤드를 얼마나 줄일 수 있는가?
• RQ4 분산 환경에서 워커 수 증가에 따라 제안된 시스템의 확장성은 어떻게 되는가?
• RQ5 기존 메모리 기반 공간 시스템인 GeoSpark와 Simba에 비해 어떤 성능 향상이 달성될 수 있는가?

주요 결과

• LocationSpark는 실제 데이터셋에서 기존 메모리 기반 및 분산 공간 시스템 대비 최대 10배의 성능 향상을 달성했다.
• sFilter 기법은 기준 방법 대비 셔플 비용을 최대 180배까지 감소시켜 통신 오버헤드를 크게 낮췄다.
• 워커 수 증가에 따라 성능이 효과적으로 스케일업되었으며, Twitter 데이터셋에서 4에서 10개의 워커로 증가할수록 일관된 성능 향상을 보였다.
• 특히 스케일된 워크로드에서 공간 범위 조인 작업에서 GeoSpark와 SpatialSpark를 능가하는 성능을 보였다.
• LocationSpark의 스케줄러와 sFilter를 통합한 Simba(opt)는 뚜렷한 성능 향상을 보였으며, 제안된 최적화 기법의 효과를 입증했다.
• 제안된 비용 모델과 쿼리 스케줄러는 특히 도심 지역의 정점 시간과 같은 고부하 상황에서 쿼리 스케일의 영향을 효과적으로 줄였다.