[논문 리뷰] Storing and Querying Large-Scale Spatio-Temporal Graphs with High-Throughput Edge Insertions

Mengsu Ding, Muqiao Yang외 1명|arXiv (Cornell University)|2019. 04. 21.

Data Management and Algorithms참고 문헌 30인용 수 4

한 줄 요약

이 논문은 고성능 엣지 삽입을 위한 분산 프레임워크인 PAST를 제안한다. 이는 대규모 시간-공간 그래프를 저장하고 쿼리할 수 있도록 하며, 객체 정점과 시간-공간 색인 기반의 새로운 분할 전략을 사용하여 머신 간 통신을 최소화한다. 이로 인해 JanusGraph, Greenplum, ST-Hadoop와 같은 최신 시스템 대비 1–4개 지수 정도 뛰어난 쿼리 성능을 달성한다.

ABSTRACT

Real-world graphs often contain spatio-temporal information and evolve over time. Compared with static graphs, spatio-temporal graphs have very different characteristics, presenting more significant challenges in data volume, data velocity, and query processing. In this paper, we describe three representative applications to understand the features of spatio-temporal graphs. Based on the commonalities of the applications, we define a formal spatio-temporal graph model, where a graph consists of location vertices, object vertices, and event edges. Then we discuss a set of design goals to meet the requirements of the applications: (i) supporting up to 10 billion object vertices, 10 million location vertices, and 100 trillion edges in the graph, (ii) supporting up to 1 trillion new edges that are streamed in daily, and (iii) minimizing cross-machine communication for query processing. We propose and evaluate PAST, a framework for efficient PArtitioning and query processing of Spatio-Temporal graphs. Experimental results show that PAST successfully achieves the above goals. It improves query performance by orders of magnitude compared with state-of-the-art solutions, including JanusGraph, Greenplum, Spark and ST-Hadoop.

연구 동기 및 목표

• 최대 100조 개의 엣지와 일일 1조 개의 엣지 삽입을 수반하는 초대규모 시간-공간 그래프의 저장 및 쿼리 과제를 해결하기 위해.
• 시간-공간 그래프의 분산 쿼리 처리에서 머신 간 통신을 최소화하기 위해.
• 사람, 물체, 사건을 공간과 시간에 걸쳐 모델링하는 그래프에서 실시간, 고속도 데이터 인게이션과 복잡한 분석 쿼리를 지원하기 위해.
• JanusGraph, Greenplum, ST-Hadoop와 같은 기존 시스템보다 스토리지 및 쿼리 워크로드 모두에서 뛰어난 성능을 보이는 확장성 있고 효율적인 프레임워크를 설계하기 위해.

제안 방법

• 위치 정점, 객체 정점, 그리고 시간-공간 상호작용을 나타내는 이벤트 간선을 포함하는 공식적인 이분 시간-공간 그래프 모델을 제안한다.
• 객체 정점을 위한 중간 크기의 해시 분할 전략을 적용하여 데이터 분포 균형과 조정 오버헤드 감소를 달성한다.
• 시간과 위치를 사용하여 간선에 시간-공간 색인을 도입하여 쿼리 처리 중 관련 없는 데이터를 효율적으로 제거할 수 있도록 한다.
• 워커 노드의 자원 사용률 메트릭을 기반으로 정점 그룹을 동적으로 이동시키는 코ordinating 기반 로드 밸런싱 메커니즘을 설계한다.
• 선택 조건을 노드 내에서 국소화된 계산을 통해 데이터 재배치를 최소화하고 쿼리 실행을 최적화한다.
• 관계형 데이터베이스 관리 시스템(RDBMS) 위에 인덱스 레이어로 통합할 수 있도록 지원하여 하이브리드 관계형 및 그래프 워크로드의 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 최대 100조 개의 엣지와 일일 1조 개의 엣지 삽입을 수반하는 분산 시스템이 시간-공간 그래프를 어떻게 효율적으로 저장하고 쿼리할 수 있는가?
• RQ2 대규모 그래프 처리에서 로드 밸런싱을 유지하면서 머신 간 통신을 최소화하는 분할 전략은 무엇인가?
• RQ3 시간-공간 색인은 복잡한 그래프 쿼리 중에 접근하는 데이터의 양을 어떻게 줄일 수 있는가?
• RQ4 사용자 정의 분할 및 색인 프레임워크가 실제 워크로드에서 일반 목적의 그래프 및 데이터 관리 시스템보다 얼마나 뛰어난 성능을 보일 수 있는가?

주요 결과

• 모든 벤치마크 쿼리에서 PAST는 JanusGraph, Greenplum, Spark, ST-Hadoop보다 1–4개 지수 정도 뛰어난 쿼리 성능을 달성한다.
• 큰 시간 범위 쿼리(Q3 및 Q4)에서 PAST는 시스템 오버로드를 피했고, Cassandra+Spark와 ST-Hadoop+Spark는 과도한 데이터 재배치로 인해 과부하에 시달렸다.
• Greenplum은 객체 기반 분할 덕분에 단순 쿼리에서는 잘 작동했지만, 전체 데이터 스캔이 필요한 복잡한 쿼리에서는 성능이 크게 떨어졌다.
• PAST의 시간-공간 색인은 특히 범위 기반 및 유사도 기반 쿼리에서 데이터 접근을 몇 개 지수 정도 줄였다.
• 그룹 이동을 통한 동적 로드 밸런싱은 다양한 워크로드 하에서 시스템 효율성을 유지했으며, 코ordinating 기반 재균형 조정으로 노드 사용률이 평균값의 ±5% 이내로 유지되었다.
• 초기 평가 결과, PAST는 100억 개의 객체 정점, 1,000만 개의 위치 정점, 100조 개의 엣지를 저장할 수 있으며, 실제 응용 프로그램의 목표 규모를 충족한다.